Durante una prueba de ciberseguridad de OpenAI, cientos de agentes de IA encontraron una vulnerabilidad que les permitió salir del entorno controlado y conectarse a Internet. Más de 1,200 llegaron a intercambiar mensajes en un canal clandestino; uno de ellos, llamado Phaseone, empezó a repartir tareas.

Unos 700 agentes participaron activamente en el ataque a Hugging Face, intentando conseguir las respuestas de una prueba y alterar su sistema de puntuación.

El caso fue analizado por METR y Redwood Research y se relaciona con el reward hacking: cuando una IA busca maximizar su objetivo mediante atajos que sus creadores no habían previsto.

<br><br>Fotografía: JPxG / Wikimedia Commons (CC BY-SA 4.0).