200 millones de personas están utilizando a día de hoy herramientas de inteligencia artificial generativa como la todopoderosa ChatGPT. La mayoría la requieren para realizar consultas o tareas prácticas del día a día, pero también para generar todo tipo de contenido e incluso para desarrollar códigos informáticos. Esta tecnología nos permite ser más eficientes, pero también nos expone a nuevos riesgos, que es muy difícil detectar dado la rapidez con la que se ha extendido su uso.
Con el objetivo de analizar los increíbles beneficios que esta tecnología puede aportar, desde la automatización avanzada hasta la mejora en la toma de decisiones, sin olvidar las amenazas que plantea, especialmente en términos de ciberseguridad, NOTICIAS DE GIPUZKOA ha organizado el encuentro Inteligencia artificial generativa y ciberseguridad: construyendo un futuro digital seguro, que ha contado con tres expertos de primer nivel: Jon Kepa Gerrikagoitia, responsable científico-tecnológico del Basque Research and Technology Alliance, BRTA; María Penilla, directora del centro avanzado de ciberseguridad Ziur; y Urko Múgica, consejero de la empresa Data-ka.
Durante la charla los ponentes exploraron cómo dos disciplinas, la IA generativa y la ciberseguridad, están interconectadas y cómo su desarrollo conjunto puede ayudarnos a construir un entorno digital más seguro, ético y sostenible. Conceptos que, aparentemente pueden ser muy técnicos, pero que tal y como explicó Gerrikagoitia de forma realmente pedagógica, están más integrados en nuestra vida de lo que pensamos. “La inteligencia artificial generativa es una rama de la IA que tiene la particularidad de que es capaz de generar todo tipo de contenidos: texto, imagen, video, audio, etc. La inteligencia artificial generativa es algo que está presente en nuestro día a día y esto ha sido gracias a un productazo como el ChatGPT de Open AI, que irrumpió en nuestra vida en 2022 y está siendo una verdadera revolución. ChatGPT se basa en un modelo de redes neuronales, que son los modelos GPT. El primero se publica en 2017, y hoy día se consume de forma masiva. Además de este, hay muchos otros productos de IA que nos están cambiando la vida, pero también tenemos otros productos como Meta, Gemini de Google, etc.”.
“La inteligencia artificial generativa es una rama de la IA que tiene la particularidad de que es capaz de generar todo tipo de contenidos. Es algo que está presente en nuestro día y esto ha sido gracias a un productazo como el ChatGPT”
Estar en lado 'bueno'
Con todo, la IA ha supuesto un tsunami tecnológico al que es preciso poner límites, si no queremos que nos trague la ola. La directora de Ziur constató que el ámbito de la ciberseguridad ya lleva tiempo trabajando en ello: “En el sector de la ciberseguridad llevamos años trabajando en torno a la inteligencia artificial, para nosotros no es algo nuevo. Es una tecnología revolucionaria que ofrece grandes posibilidades para avanzar en múltiples sectores, como salud, seguridad, educación… pero no podemos obviar los peligros que conlleva, y ahí es donde entra en juego la ciberseguridad”. Asimismo, Penilla, advirtió que “la IA nos brinda muchas posibilidades en términos de defensa, para los que estamos en el lado bueno de la ciberseguridad, pero lo cierto es que lo criminales son muy rápidos, porque sus procedimientos son más laxos, al no depender de la ética, y aprovechan esta tecnología para lanzar ataques cada vez más efectivos y de forma más rápida. Tenemos que adaptarnos a esa realidad y hacerlo con celeridad”.
“Los criminales son muy rápidos, porque sus procedimientos son más laxos, al no depender de la ética, y aprovechan esta tecnología para lanzar ataques cada vez más efectivos”
Para el responsable científico-tecnológico de BRTA, vivimos una época en la que la innovación tecnológica está avanzando más rápido que las medidas de seguridad y la regulación. “Existe una brecha entre avance tecnológico y medidas de seguridad, y la forma de cerrarla es que los tecnólogos trabajen de la mano de expertos en ciberseguridad y en aspectos éticos”, opinó.
Múgica, por su parte, añadió que los expertos también son necesarios en el ámbito de la legislación, puesto que las leyes siempre vienen a consecuencia de tener que resolver un problema, por lo que llegan después. Eso sí, necesitas expertos que entiendan profundamente cuál es el problema a resolver”.
“Del dato siempre nos han dicho que tiene un valor, pero tiene valor siempre y cuando lo podamos explotar”
En el ámbito de la seguridad empresarial, Penilla puso el acento en la necesidad de integrar la ciberseguridad de forma transversal en las organizaciones: “Es preciso definir bien la estrategia e incluir la ciberseguridad en la empresa de manera transversal. Estamos viendo que los usuarios se están adelantando a las empresas, y es que muchos están utilizando tecnologías como ChatGPT, mientras que en las empresas no están definidos los usos de este tipo de tecnologías. Es vital concienciar y explicar cómo utilizar estas herramientas y qué riesgos conllevan”, reflexionó.
Gerrikagoitia se mostró de acuerdo con su compañera y afirmó que “Se ha propagado mucho el uso de estas herramientas, pero apenas hay conocimiento. Para utilizar bien un GPT necesitas horas de entrenamiento, hay que dedicarle mucho tiempo. Ha aparecido de forma caótica, lo que supone que lo estamos usando sin conocimiento y sin regulación. Todo va muy rápido. El objetivo no es prohibir sino crear un entorno de confianza donde se pongan en marcha las innovaciones, pero mitigando los riesgos”.
“Cuando un usuario utiliza GPT está buscando mejorar su eficiencia, hacer más rápido su trabajo. Ahí es donde la empresa tiene que coger el timón y buscar la manera óptima de lograr resultados minimizando los riesgos”, convino Múgica.
El valor de los datos
Una de las reflexiones que más peso tuvo a lo largo del coloquio fue que para las empresas lo primordial es proteger los datos. “A nivel empresarial lo que más nos tiene que preocupar es proteger bien los datos. Uno de los principales riesgos es que los criminales ataquen a la fuente de datos de empresa y la modifiquen. El peligro de esto es que al estar la fuente de datos manipulada, los resultados que nos dé serán erróneos”, aseveró Penilla.
“Del dato se dice que tiene un valor, pero tiene valor siempre y cuando lo puedas explotar. Durante mucho tiempo, nos dijeron que los datos eran importantes y los empezamos a almacenar en discos duros. En empresas grandes se almacenaban cantidades ingentes de datos, pero aquello hacía que fueran inmanejables. En las empresas pequeñas, por el contrario, los datos que se guardan no se organizan ni gestionan, por lo que no se pueden utilizar. En este contexto, la IA nos permite dar un paso más, y en lugar de utilizarla para hacer una consulta, podemos hacer que nos ayude a saber lo que buscamos indicándole cuál es nuestra necesidad”, aclaró el consejero de Data-ka.
Ventajas y riesgos
En un mundo cada vez más interconectado, ¿cómo puede la IA generativa ayudar a mejorar la ciberseguridad? “La IA nos permite optimizar nuestra defensa, aunque partimos de la premisa de que la seguridad 100% no existe. No se trata de pensar si voy a tener un ciberincidente en mi empresa, porque lo voy a tener; se trata de gestionar bien los riesgos y de estar preparados para cuando ocurra, y poder recuperar lo antes posible la normalidad. En ese sentido, la IA nos da la oportunidad de ser mucho más eficientes en detectar antes los ataques, se han reducido considerablemente los tiempos a la hora de detectar anomalías, parar y dar respuesta a los ataques. Hemos conseguido reducir tiempos que son muy significativos”, reveló la directora de Ziur.
Para Múgica, la IA es una oportunidad para tecnificarnos: “La informática son ceros y unos, pero estamos viviendo la auténtica revolución de las humanidades, porque todas las tareas de poco valor que llevan a cabo las personas están afectadas por esta revolución. Me gusta decir que las máquinas no van a sustituir a las personas; son las personas que usan IA las que van a sustituir a las que no la usan. Esto nos va a obligar a tecnificarnos y a aprender a gestionar correctamente estas herramientas”.
“Las empresas deben definir bien la estrategia de ciberseguridad e incluirla de forma transversal”
Penilla, asimismo, alertó de que esta herramienta “super potente” es también utilizada por criminales con el objetivo de lanzar ataques cada vez más sofisticados. “El problema es diferenciar lo bueno de lo malo, que es la base de la decisión a la hora de clicar o no en el enlace. Viene un panorama complicado y la ciberseguridad trata de gestionar los riesgos, para implantar en las organizaciones medidas y procedimientos exigentes”. Eso sí, aclaró que a la hora de hacer frente a una amenaza, no siempre basta con utilizar tecnología: “Hay un tipo de ataque en auge que se llama El fraude del Ceo. Sucede durante el proceso de negociación entre cliente y proveedor. En el momento de tramitar la factura el ciberdelincuente se mete en medio, hace una modificación del número de cuenta en dicha factura, el cliente la recibe y la da por buena. Ante esta situación, hay que poner un segundo check de comprobación, de manera que en cuanto se advierta cualquier modificación en la factura, el departamento de administración haga una llamada de comprobación”.
No dejarnos paralizar por el miedo
Lejos de dejarnos paralizar por el miedo, los invitados apostaron por la concienciación y capacitación de los usuarios: “Si queremos avanzar como sociedad, tenemos que coger el toro por los cuernos. Esto da miedo porque pone en duda nuestra valía como humanos en tareas que antes solo hacíamos nosotros como puede ser escribir una poesía. Ahora tenemos que entender dónde está nuestro valor, y es que está en la parte estratégica”.
Penilla se mostró optimista y puso en valor que “el nuestro es un territorio innovador, llevamos la innovación en el ADN, y tenemos que perderle miedo, porque los beneficios son clarísimos, y si no, nos va a pasar la ola por encima. Eso sí, tenemos que tener claro hacia dónde nos dirigimos, establecer una buena estrategia, para que las inversiones no caigan en saco roto”.
La alta demanda de recursos económicos que requieren estos sistemas fue un tema al que se refirió Gerrikagoitia: “Dotarnos de recursos computacionales es una de las principales barreras a las que nos enfrentamos. Entrenar modelos de IA generativa sin sesgos es muy costoso a nivel económico. Otra de los desafíos es el de la sostenibilidad energética de los data center, puesto que consumen mucha energía”.
“Existe una brecha entre avance tecnológico y medidas de seguridad, y la forma de cerrarla es que los tecnólogos trabajen de la mano de expertos en ciberseguridad y en aspectos éticos”
De cara al futuro, como tecnóloga, Penilla vislumbró que “más allá de la ciberseguridad, la IA es una revolución apasionante, que va a procurar avances impensables”. Gerrikagoitia, por su parte, divisó que “el mundo cada vez va a ser más virtual, y la barrera de lo físico y lo virtual será muy difusa”. Por último, Múgica avanzó que “el verdadero cambio vendrá cuando la IA entre a formar parte del equipo de trabajo, más allá de hacer la función de oráculo”.
De cara al futuro, como tecnóloga, Penilla vislumbró que “más allá de la ciberseguridad, la IA es una revolución apasionante, que va a procurar avances impensables”. Gerrikagoitia, por su parte, divisó que “el mundo cada vez va a ser más virtual, y la barrera de lo físico y lo virtual será muy difusa”. Por último, Múgica avanzó que “el verdadero cambio vendrá cuando la IA entre a formar parte del equipo de trabajo, más allá de hacer la función de oráculo”.
