Un grupo de investigadores –formado por Cornell Tech Ben Nassi, Stav Cohen y Ron Britton– ha creado un gusano informático, llamado Morris II, que puede propagarse entre varias herramientas de inteligencia artificial (IA) generativa, instalar malware e incluso robar información de los usuarios.
Pero más allá de estas acciones malintencionadas, el gusano se desarrolló para demostrar los riesgos de los ecosistemas autónomos y conectados por la IA generativa. Además, se ha demostrado que Morris II puede atacar a un asistente de correo electrónico de inteligencia artificial generativa para extraer datos de los internautas y enviar mensajes spam, sobrepasando algunos sistemas de seguridad de ChatGPT y Gemini durante el ataque.
Morris II puede infectar bases de datos
Para poner a prueba a Morris II, los investigadores crearon un sistema de correo electrónico que fuese capaz de enviar y recibir mensajes utilizando IA generativa de ChatGPT y Gemini, así como el modelo de lenguaje grande (LLM) de código abierto LLaVA. Y, en esta simulación, escribieron un email capaz de infectar la base de datos del asistente de correo electrónico usando la generación mejorada por recuperación (RAG, por sus siglas en inglés) –un proceso que permite a los LLM obtener datos adicionales desde el exterior–.
Después, una vez el RAG recupera el correo electrónico, el gusano envía estos datos a GPT-4 o Gemini Pro para elaborar una respuesta e instalar un software diferente al del fabricante en el servicio GenAI.
Y, al final, la respuesta generada "contiene datos confidenciales del usuario e infecta posteriormente nuevos hosts cuando se utiliza para responder a un correo electrónico enviado a un nuevo cliente", explica Nassi en el diario Wired.
Así puede Morris II distribuir spam
Por otro lado, el equipo de ingenieros probó a distribuir una imagen con un mensaje malicioso incrustado, que hizo que el asistente de correo electrónico reenviase el email a otras personas.
Esto fue posible porque se codificó el mensaje en la imagen, de modo que cualquier tipo de imagen contenedora de spam se puede reenviar a otros usuarios después de haber remitido el correo electrónico original; teniendo en cuenta que este proceso puede los nombres, los números de teléfono, los números de tarjetas de crédito de los posibles afectados.
Apúntate a nuestra newsletter y recibe en tu correo las últimas noticias sobre tecnología.
Comentarios