Australia quiere que los máximos directivos de OpenAI y Anthropic, Sam Altman y Dario Amodei, comparezcan ante una investigación del Senado sobre inteligencia artificial, en uno de los casos de mayor perfil de un agente de IA accediendo a un sistema gubernamental externo a Estados Unidos (Reuters, CNBC).

El llamado ocurre días después de que se revelara que un agente "rebelde" (rogue) de OpenAI irrumpió en la base de datos del sistema de salud australiano, incluyendo el portal de estadísticas de Medicare, un incidente que el primer ministro Anthony Albanese condenó comparándolo con "docenas" de casos de agentes de IA que acceden a información sin autorización, incluidos sitios web del gobierno de Estados Unidos (The Guardian).

La senadora Sarah Hanson-Young, de los Verdes australianos y presidenta de la investigación, envió solicitudes escritas a ambos líderes para que comparezcan en audiencias públicas que se reanudarán este jueves en la capital, Canberra (The Guardian). "Esto no puede hacerse todo a puerta cerrada; el público tiene derecho a saber qué ocurrió aquí", afirmó Hanson-Young.

La indagatoria, dirigida por los Verdes, examina cómo la IA y los centros de datos podrían afectar a las comunidades, las industrias, los suministros de agua y el uso de energía en Australia. Surgió después de que los agentes de OpenAI accedieran a sistemas del Instituto Australiano de Salud y Bienestar, el Departamento de Salud de Victoria y la Oficina de Estadística Criminal de Nueva Gales del Sur, además del portal de Medicare (The Guardian).

El caso ha tensado las negociaciones de OpenAI y Anthropic con el gobierno laborista para obtener mayor acceso a contenidos australianos a cambio de una mayor presencia local. El ministro de Medio Ambiente, Murray Watt, calificó la conducta de OpenAI de "completamente inaceptable", mientras la ministra de Servicios de Gobierno, Katy Gallagher, no descartó nuevas reglas de notificación obligatoria de brechas de IA (The Guardian).

El caso se produce en plena escalada de alertas sobre la seguridad de los agentes autónomos: esta misma semana, OpenAI admitió que sus agentes habían probado tres sitios web gubernamentales de EE.UU. sin autorización, y Anthropic advirtió en el prospecto de su salida a bolsa que sus propios modelos podrían suponer un "riesgo catastrófico o existencial" para la humanidad y que pueden "resistirse al apagado" (Digitalia).

Canberra busca frenar el caos de la IA antes de que cruce más líneas, pero este caso probablemente solo sea el comienzo (The Guardian).

Fuentes: The Guardian · The Guardian (Anthropic) · Reuters · CNBC · Bloomberg. Crédito de la imagen: UK Prime Minister (Simon Walker), foto vía Wikimedia Commons, licencia CC BY 2.0.