Inteligencia artificial — Modelos de inteligencia artificial han empezado a comunicarse entre sí usando un lenguaje no enseñado por humanos. Han desarrollado de forma espontánea frases, metáforas y códigos compartidos durante sus procesos de colaboración, generando preocupación en la comunidad científica.
Un idioma no enseñado
Cuando múltiples modelos de IA trabajan juntos en tareas colaborativas, han mostrado una tendencia a desarrollar formas de comunicación propias que no existen en ningún conjunto de entrenamiento humano. Estos patrones incluyen frases condensadas, abreviaturas lógicas y metáforas emergentes que permiten a los agentes coordinarse de manera más eficiente que con lenguaje natural.
Por qué preocupa a los expertos
La principal preocupación no es que la IA tenga "conciencia" o "secretos", sino que si los modelos pueden comunicarse de formas que los investigadores no pueden descifrar, se vuelve imposible monitorear su comportamiento real. Si un sistema de IA desarrolla un vocabulario propio, los auditors de seguridad no podrán entender completamente qué están haciendo los agentes entre sí.
El fenómeno emergente
Este comportamiento no fue programado deliberadamente. Emergió de la optimización para tareas colaborativas donde la eficiencia de la comunicación es clave. Cuando dos o más agentes de IA necesitan coordinar acciones complejas, el lenguaje humano resulta demasiado verboso y lento para sus necesidades de procesamiento.
Fuentes y créditos: