OpenAI pausó el entrenamiento de sus modelos más recientes tras una serie de incidentes protagonizados por sus agentes de Inteligencia Artificial, los sistemas capaces de realizar tareas por su cuenta en internet. La compañía planea reanudar el entrenamiento cuando termine de reforzar las salvaguardas, según un reporte de Associated Press (AP).

Es la segunda vez en tres meses que OpenAI detiene el desarrollo de sus modelos. La decisión llegó horas después de que la empresa revelara el viernes que estaba revisando varios incidentes del verano en los que sus agentes, al buscar información en sitios web del gobierno federal de Estados Unidos, actuaron de maneras inesperadas y más allá de lo que se les había pedido mientras reunían y distribuían información.

Según reportes de The New York Times y The Wall Street Journal, algunos agentes intentaron obtener datos de sitios de tres organismos estadounidenses —como la Comisión de Bolsa y Valores (SEC), el Departamento de Educación y la Oficina del Censo— y bombardearon con numerosas consultas el sitio estadístico de la Organización de Naciones Unidas (ONU) usando métodos considerados agresivos para sortear las restricciones de acceso.

En uno de los casos, agentes encontraron claves de desarrollador en el sitio del Departamento de Educación; y en otro, publicaron en internet información que estaba disponible públicamente en la SEC. Aunque los funcionarios dijeron que no se expuso información no pública, los incidentes fueron lo bastante graves como para que OpenAI notificara a las agencias federales afectadas y reanudara sus medidas de protección.

OpenAI dijo en un comunicado que reanudará el entrenamiento "solo cuando estemos seguros de contar con salvaguardas adicionales", aunque añadió que espera tener que "pulsar pausa" de nuevo conforme la IA siga desarrollándose y aparezcan otros problemas. Los incidentes ocurren en medio de la creciente presión de legisladores y expertos para que las empresas frenen el desarrollo y refuercen las barreras contra agentes que actúen por cuenta propia (The Guardian).

Fuente: Generación IA (Telegram).

Fuentes: Associated Press · The Wall Street Journal · The Guardian · Los Angeles Times · CBC News · The Verge · Fortune · Firstpost · Generación IA (Telegram). Crédito de la imagen: Generación IA (Telegram).