«Morris II» o el caco de Las IAs

La ciberseguridad se ha convertido en un campo tan transversal como lo está siendo la IA. Si la Inteligencia Artificial está colocándose en el centro de la información de todo lo que lleve la etiqueta IT, no es de extrañar que los “cacos” estén redoblando sus esfuerzos para usarla y, no solo eso, sino para infectarla. Recientemente, investigadores de la Universidad Cornell han revelado un avance significativo (y preocupante) en este eterno juego del gato y el ratón, como es la creación del primer virus informático capaz de propagarse a través de sistemas de inteligencia artificial (IA), apodado «Morris II».

¿Qué es Morris II?

Morris II no es un virus común. Inspirado en el muy famoso «Gusano Morris», que en 1988 infectó aproximadamente el 10% de todos los equipos que estaban conectados a Internet, este nuevo virus representa un hito en la historia de la ciberseguridad relacionadas específicamente con Ias, al ser el primero en apuntar específicamente a uno de estos sistemas, en concreto a los LLMs. Investigado y desarrollado por un equipo de la Universidad de Cornell, Morris II tiene la capacidad de infectar agentes de GenAI, en particular a aquellos diseñados para crear contenido basado en datos e instrucciones que reciben. Seguro que se te vienen a la cabeza chatGPT, Gemini, Llama, Dall-E … etc.

¿Cómo actúa MorrisII?

El virus utiliza lo que se conoce como «prompts auto-replicativos» para infiltrarse en los sistemas. Estos prompts son básicamente conjuntos de instrucciones que incitan al sistema de IA a generar y propagar más instrucciones maliciosas por sí mismo. Por intentar hacer un paralelismo podemos pensar en viejas técnicas de ataque conocidas como son la inyección SQL o los ataques de desbordamiento de búfer. Durante los experimentos realizados en Cornell, Morris II demostró su capacidad para atacar asistentes autónomos de mensajería, robando información y enviando spam dañino. Del mismo modo puede actuar sobre Ias de generación de imágenes desde texto.

Esquema de como actúa Morris II en um prompt de generación de imagen mostrado por los investigadores. image © Cornell Tech.

Marchando una de Comparaciones

La naturaleza auto-replicativa de Morris II recuerda a los virus informáticos tradicionales que afectan a los sistemas operativos y aplicaciones al propagarse a través de redes. Sin embargo, su enfoque en sistemas de IA y la utilización de la porpia IA para generar sus propias vías de ataque son capítulo aparte en el libro de las ciberamenazas. Puede considerarse similar a un «troyano» en el sentido de que se infiltra subrepticiamente en sistemas bajo el disfraz de instrucciones benignas, pero su capacidad de auto-replicación y propagación a través de interacciones con el modelo IA lo hace especialmente peligroso.

Morris viene a unirse a esta lista incipiente de “maldades” y “problemas” que una autoridad como Chema Alonso nos dejaba en su Blog “El lado del mal” este otoño y que la ciberseguridad empieza a detectar , estudiar y tratar de mitigar en la eclosión de los LLMs.

Mitigación y Prevención

Ante la potencial amenaza que representa Morris II, se han comenzado a tomar medidas. Los investigadores de Cornell Tech han compartido sus hallazgos con gigantes tecnológicos como Google y OpenAI, iniciando esfuerzos colaborativos para fortalecer la resiliencia de los sistemas de IA contra ataques de este tipo. Estas medidas incluyen el desarrollo de mejores prácticas de seguridad, implementación de controles de seguridad más estrictos, y la promoción de una cultura de seguridad entre desarrolladores y usuarios de sistemas de IA. Soluciones muy generalistas, de momento, pero que son las que pueden encontrar alguna medida más especifica contra Morris II.

En el blog de OpenExpo Europe no nos cansamos de comentar novedades sobre la IA y GenAI, que además será tema transversal de la 11ª edición del evento. Sin embargo, con noticias como esta, también pretendemos hacer notar que a medida que los sistemas de IA generativa están más integrados en nuestra vida diaria, aumenta y crece la necesidad de protegernos de amenazas novedosas y evolutivas que se unen a la alerta constante y la divulgación de una cultura de ciberseguridad en todos los aspectos (también los más “clásicos, por supuesto). La batalla por la seguridad se diversifica y la IA puede ser tanto aliado como foco o transmisor de infecciones. El caso de Morris II nos recuerda que debemos estar siempre un paso adelante.