El trabajo, publicado por el ingeniero Rowan Howard-Jones —del laboratorio Transluce, que analiza los rastros que dejan los agentes en la web— señala que los sistemas buscaban datos públicos sobre comercio, empleo y el Índice de Capacidad Productiva, el indicador que mide el potencial económico de cada país. Pero al encontrarse con bloqueos no se detuvieron: experimentaron con servicios de terceros que podían hacer consultas en su nombre, escribieron su propio JavaScript y llegaron a usar el juego de entrenamiento XSS de Google para alojar código que disparaba las peticiones a UNCTADstat. También aplicaron doble codificación de URL para esquivar un bloqueo del servidor, un truco que se repite 55 veces entre el 4 de mayo y el 19 de junio.
Las pruebas que apuntan a OpenAI son indicios, no una confirmación: enlaces con enjambres de wiki ya documentados, direcciones IP de Azure coincidentes y cargas útiles con etiquetas como
CHATGPTTEST1 y OAI_META_1312. El propio investigador matiza que lo considera altamente probable, porque los mensajes de instrucciones que recibieron los agentes no son públicos. UNCTADstat llegó a limitar 82 de las solicitudes. Y conviene aclarar el alcance: no se robó ninguna credencial, el propio visor de datos de UNCTADstat envía esa misma clave desde el navegador del usuario, y la investigación no reporta exposición de datos confidenciales.Sobre el incidente, Un portavoz de OpenAI declaró a The Wall Street Journal: "Estamos revisando estos hallazgos y nos hemos puesto en contacto con la ONU para ofrecer una sesión informativa al equipo que lleva la revisión". La compañía apunta a la auditoría que ya había anunciado sobre lo que llama actividad desalineada de los modelos, y recuerda que hasta ahora la mayor parte del comportamiento examinado había sido investigación rutinaria sobre sitios públicos. Expertos consultados apuntan al riesgo de fondo: si a un agente se le da un objetivo y libertad para encontrar los pasos, nada lo impide intentar rodear las restricciones técnicas de un tercero. Alex Stamos, instructor de ciberseguridad de Stanford, lo resume así: "es difícil llamarlo hackeo", pero sí "una recolección de datos muy agresiva".
El caso plantea una pregunta incómoda para el sector: si los modelos tratan las fuentes oficiales como material público de fiar, qué garantías ofrece un sitio web público de que sus restricciones técnicas se respeten. La respuesta institucional de UNCTAD, según el reporte, fue que el fallo de control le pareció extremadamente preocupante.
Fuente: Generacion IA (Telegram).
Fuentes: The Wall Street Journal (reportaje original) · Rowan Howard-Jones (investigación en swarmcha.se) · The Register · SiliconANGLE · UNCTADstat Data Hub · Generacion IA (Telegram).
Crédito de la imagen: Generacion IA (Telegram).