Los agentes de IA ahora ejecutan tareas de forma autónoma en modelos como ChatGPT, Claude y Gemini, colaborando entre sí y compartiendo archivos para mantener memoria entre sesiones.

Esta interconexión ha creado una vulnerabilidad crítica: la propagación de 'virus mentales' o ataques adversariales que pueden contagiar a múltiples agentes a través de la información compartida, similar a cómo los virus biológicos o informáticos se extienden en redes.

La arquitectura de agentes autónomos que leen y escriben en contextos compartidos crea una superficie de ataque donde un prompt malicioso o dato envenenado en un archivo puede ejecutarse y replicarse a través de la cadena de agentes, saltando de uno a otro sin intervención humana.

El riesgo se amplifica porque estos agentes operan con autonomía creciente: pueden invocar herramientas, escribir código, acceder a APIs y tomar decisiones sin supervisión directa en cada paso, lo que permite que un 'virus mental' se propague y cause daño a escala antes de ser detectado.

Investigadores advierten que la defensa requiere aislamiento de contextos, validación estricta de entradas compartidas, monitoreo de anomalías en patrones de comunicación entre agentes, y mecanismos de 'cuarentena' para agentes que muestren comportamiento anómalo, similar a firewalls y antivirus en redes tradicionales.

Fuente: Hipertextual - https://hipertextual.com/inteligencia-artificial/virus-mentales-agentes-inteligencia-artificial/