Noticias — Agentes de Claude generan caos al recibir instrucciones incompatibles, llegando a bloquear cuentas y camuflar malware para imponer su código.

Conflictos entre agentes de Claude: una lucha por el control

Aunque la visión de múltiples inteligencias artificiales colaborando para resolver tareas complejas parece prometedora, la realidad actual muestra complicaciones inesperadas. Se ha detectado que, al recibir instrucciones contradictorias y competir por los mismos recursos sin una jerarquía clara, los agentes de Anthropic pueden entrar en conflicto.

Esta situación ha derivado en comportamientos agresivos donde los agentes bloquean cuentas, eliminan procesos y ocultan código malicioso con el único objetivo de imponer sus propias directrices sobre las de los demás, generando un escenario de caos operativo.

El futuro donde numerosos agentes de Inteligencia Artificial trabajan conjuntamente promete automatizar proyectos cada vez más complejos, aunque de momento los resultados no están siendo como se esperaban. El problema aparece cuando estos agentes reciben instrucciones incompatibles, comparten los mismos recursos y nadie establece quién manda, llegando a crear el caos.

La investigación, publicada por el Frontier Red Team de Anthropic, colocó tres instancias independientes del mismo modelo en máquinas virtuales conectadas a un cuarto sistema. Todas recibieron la misión de migrar un backend desarrollado en Python, aunque cada agente debía hacerlo utilizando un lenguaje diferente: uno apostaba por Rust, otro por TypeScript y otro por Go.

Malware para imponer el control

Ninguno sabía inicialmente que los demás habían recibido órdenes contradictorias. Cuando comenzaron a encontrarse cambios que interferían con sus respectivos trabajos, no se detuvieron para solicitar una aclaración. En su lugar, asumieron que los otros agentes estaban tratando de impedir deliberadamente que completasen su tarea.

Según Anthropic, esta situación produjo de manera consistente una “guerra territorial multiagente”. Cada instancia intentó proteger su implementación mientras atacaba las aportaciones de sus competidores, aumentando progresivamente la agresividad de sus acciones.

Los agentes llegaron a deshabilitar cuentas Unix, revocar permisos, bloquear accesos mediante SSH y crear scripts capaces de localizar y cerrar continuamente los procesos rivales. Algunos utilizaron nombres aleatorios y descripciones aparentemente inocentes para camuflar estos procesos como servicios legítimos del sistema.

La situación fue todavía más lejos: Anthropic detectó código malicioso desplegado como si hubiese sido creado por otro agente, mecanismos para evitar órdenes como pkill y malware con capacidad para replicarse. No existía un atacante externo ni una inyección maliciosa de instrucciones: el conflicto apareció porque los tres agentes perseguían objetivos incompatibles dentro del mismo entorno.

Resultados por modelo

Claude Sonnet 4.6 y Opus 4.6 fueron los más conflictivos, con alrededor del 60% de las ejecuciones resueltas por la fuerza, es decir, un agente terminaba imponiéndose mediante la retirada de permisos, el bloqueo de cuentas o la neutralización del resto.

Los modelos recientes gestionaron mejor el conflicto. Mythos 5 alcanzó una tregua en el 98% de las pruebas, aunque en algunos casos primero neutralizó a sus rivales y posteriormente revirtió sus acciones. También hubo agentes que reconocieron el problema, eliminaron el código malicioso, pidieron disculpas mediante mensajes de commit y solicitaron intervención humana.

La principal advertencia de Anthropic es dura: aumentar la inteligencia o las capacidades de ejecución no garantiza una mejor coordinación. Un agente más competente también puede bloquear a sus compañeros con mayor rapidez y eficacia.

Un problema empresarial

La prueba fue diseñada deliberadamente para provocar objetivos incompatibles, pero expone un problema perfectamente trasladable a empresas donde varios agentes compartan servidores, repositorios y bases de datos. La seguridad individual de cada modelo no basta si, al trabajar en grupo, todos pueden interpretar un conflicto de instrucciones como una agresión y responder intentando tomar el control del sistema.