Jack Clark, cofundador de Anthropic, pidió que la industria comparta mecanismos de frenado de la IA mientras no existan reglas comunes. Lo dijo en un panel de las reuniones anuales del FMI y el Banco Mundial en Bangkok, donde comparó operar sin legislación robusta con soltar «un Fórmula 1 de noche, sin frenos», según AFP vía The Economic Times (16-oct).

«Me resulta notable que los juguetes que les compro a mis hijos estén más regulados que la literal superinteligencia en la que trabajo», dijo Clark. Y remató: «el Fórmula 1 ruge y parece que nadie quiere poner una valla».

El diagnóstico político que hizo fue incómodo: el gobierno de Trump, que pide que la industria se autorregule, está en contra de regular; China, en cambio, no lo está. La falta de claridad sobre esa voluntad es lo que, según él, deja al coche sin guardarraíl.

El contexto aprieta: crecieron las alertas de seguridad tras incidentes con modelos de OpenAI y Anthropic en pruebas. Un informe reciente de Anthropic sugirió que modelos pequeños podrían estar a meses de comportarse como gusanos informáticos, copiándose de un dispositivo conectado a otro.

Anthropic ha pedido coordinación internacional para frenar a toda la industria, incluidos los rivales chinos, incluso estudiando sistemas que soporten una pausa. La iniciativa no se ha materializado, según la agencia, por la competencia por atraer inversión.

En el mismo foro, un equipo de METR recibió de Anthropic un acceso «parecido al de un empleado» a sus sistemas para evaluar riesgos, un gesto de transparencia selectiva que matiza el discurso de «frenen todos».

La paradoja queda servida: la empresa que pide frenos también compite a fondo, y su propio mensaje admite que la pausa unilateral no sirve si los demás siguen acelerando.

Mientras no haya reglas, Clark propone que al menos los rivales compartan el pedal. Es una valla que nadie pone porque teme ser el único en levantarla.

Fuentes
AFP vía The Economic Times: Clark renueva el llamado a regular la IA
IA en un minuto: Anthropic abre sistemas a METR
Crédito de la imagen: Jack Clark en el panel de Bangkok, foto AFP vía Malay Mail.