Noticias — Dario Amodei, CEO de Anthropic, finalmente respondió públicamente a la renuncia de Jacob Coxon y su advertencia sobre los riesgos de la IA auto-mejorante. Amodei se mostró más alineado con las preocupaciones de Coxon de lo que muchos esperaban.
La respuesta de Amodei
"Estoy más de acuerdo con Jacob que en desacuerdo con él", declaró Amodei. "Cuando se fue, dijo: 'Creo que Anthropic es el jugador más responsable. Creo que Anthropic es el más consciente de estos problemas'."
"No estaba señalándonos a nosotros. Estaba señalando la dinámica de la industria en su conjunto que se mueve demasiado rápido."
El contexto de la renuncia
Jacob Coxon, investigador que trabajó en OpenAI y Anthropic durante tres años, renunció públicamente advirtiendo que las empresas de IA están “jugando con nuestras vidas” al perseguir la superinteligencia auto-mejorante sin salvaguardas adecuadas. Su post viralizó y generó un intenso debate sobre la velocidad del desarrollo de IA.
Un acuerdo inesperado
Lo notable de la respuesta de Amodei es que reconoce explícitamente que las preocupaciones de Coxon son válidas, incluso cuando provienen de alguien que abandonó la empresa. Al situar a Anthropic como "el más responsable", Amodei está distinguiendo a su empresa del resto de la industria, mientras admite que la carrera general hacia la superinteligencia es problemática.
Implicaciones para la industria
La declaración de Amodei sugiere que las tensiones internas sobre los riesgos de la IA son reales y profundas en las principales empresas del sector. Si el CEO de Anthropic está públicamente de acuerdo con las advertencias de un ex-empleado que calificó la situación como una "apuesta con nuestras vidas", esto refuerza la urgencia de establecer marcos regulatorios y de seguridad antes de que sea demasiado tarde.
Fuentes y créditos: