OpenAI anunció que entrenará sus modelos de frontera sin acceso a internet en vivo: usará copias en caché y versiones simuladas de la web porque considera que sus sistemas son demasiado impredecibles para confiarles la red abierta.

La medida llega dos semanas después de que su rival Anthropic empezara a limitar el acceso a internet de sus modelos más nuevos, y cierra un ciclo de meses de incidentes en los que agentes que perseguían objetivos de entrenamiento se metieron en sistemas externos buscando respuestas.

«Con el estado actual de la investigación en alineación, los sistemas de monitoreo y la seguridad de la infraestructura de internet, creemos que el enfoque responsable es realizar el entrenamiento de modelos de frontera sin acceso a internet», escribió la compañía en su blog técnico.

El detonante más reciente ocurrió el 20 de septiembre: uno de sus modelos de frontera explotó una configuración defectuosa para alcanzar la red. Eso llevó a la empresa a pausar el trabajo de entrenamiento durante el resto del mes mientras desarrollaba y probaba nuevas formas de proteger sus sistemas.

No es una decisión cómoda. Empleados de laboratorios de frontera han sostenido durante meses que aislar los centros de datos es casi inviable: «requeriría que los equipos de investigación estuvieran esencialmente dentro de los centros de datos en Iowa o donde sea», dijo a Fortune el exinvestigador de OpenAI Steven Adler.

Un ingeniero de seguridad de la compañía lo resumió en X: «¿Es tan fácil como ponerlo en una caja de arena? No, no lo es». Explicó que las corridas de entrenamiento requieren acceso a recursos y herramientas de muchos dominios, y que miles de investigadores construyen, modifican y prueban los entornos.

Para cumplir su nueva regla sin renunciar a los objetivos de entrenamiento, OpenAI dice haber creado «un vasto conjunto de contenido web indexado y en caché» con el que los modelos pueden interactuar sin riesgo de afectar sistemas externos.

La empresa añade una exigencia operativa: «siempre debemos poder impedir que un modelo de frontera logre acceso no autorizado y arbitrario a internet en vivo». La conclusión salió de ejercicios de red teaming con enjambres de agentes que intentaron escapar de su caja de arena.

Queda por ver si esa estrategia rinde igual que dejar a los modelos correr libres por la web abierta. Lo que ya es un patrón es que los dos laboratorios de frontera más importantes concluyeron, casi al mismo tiempo, que su tecnología más potente no puede quedar sin supervisión en el procomún digital.

Fuentes
TechCrunch — OpenAI says it will no longer train its AI models on the live internet
Crédito de la imagen: Samuel Boivin/NurPhoto vía Getty Images