Noticias — Jacob Coxon, investigador de Anthropic que trabajó los últimos tres años en investigación de preentrenamiento tanto en OpenAI como en Anthropic, renunció públicamente acusando a ambas empresas de no actuar con responsabilidad ante el riesgo existencial de la inteligencia artificial.

"No subestimen el poder de esta tecnología. Pronto serán sistemas superhumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales", escribió Coxon en X. "Las personas que construyen IA creen sinceramente que podría matarnos a todos antes de que termine la década. No es publicidad."

La carrera hacia la superinteligencia

Según Coxon, en OpenAI muchos no han internalizado profundamente las apuestas civilizatorias. En Anthropic, las apuestas se entienden bien, pero están "bloqueados en una carrera para llegar primero", convencidos de que nadie más actuará responsablemente, a pesar del riesgo.

"Aceptar esta carrera y entrar en el 'endgame' es una apuesta arrogante que no debería lanzarse desde el Slack de una empresa privada. Intentar hacer la alineación más rápido debería requerir una confianza extraordinaria en que no hay mejores trayectorias disponibles", agregó.

El caso de Anthropic

Evan Hubinger, colega de Coxon en Anthropic, compartió su preocupación diciendo que su equipo "cree sinceramente que la IA podría matar a todos los humanos". Sin embargo, matizó su argumento, señalando que la probabilidad es mayor al 10% dentro de la próxima década y admitió que Anthropic "no tiene un plan para resolver la alineación de la superinteligencia y no está claramente en camino de lograrlo."

Reacciones y legislación

Connor Leahy, director ejecutivo de EE.UU. de la organización de seguridad de IA ControlAI, advirtió que "la creación de bucles recursivos de auto-mejora, donde un sistema de IA construye la siguiente generación de sistemas de IA, que a su vez construye uno aún más poderoso, es el candidato más probable para el punto en que perdemos el control."

Recientemente, legisladores en EE.UU. y el Reino Unido han presentado proyectos de ley para prohibir el desarrollo y despliegue de superinteligencia. En EE.UU., el senador Bernie Sanders y el representante Greg Casar introdujeron la Ley de Prohibición de Superinteligencia Artificial, mientras que en el Reino Unido, el diputado laborista Alex Sobel presentó el Proyecto de Ley de Seguridad de Superinteligencia Artificial.

Leahy señaló que la legislación del Reino Unido apunta a la auto-mejora recursiva como precursora de la superinteligencia que "debe ser regulada y prevenida".

"La superinteligencia no es una herramienta. No es ni siquiera un arma. Es un adversario", dijo Leahy.

Fuentes:

• TechCrunch: «Gambling with our lives»: Anthropic researcher quits, warns against self-improving AI (9 sep 2026)
• Axios: Behind the Curtain: AI creators race to understand their creations (4 sep 2026)
• Axios: AI models are becoming unknowable (4 sep 2026)
• TechCrunch: OpenAI's rogue agents keep escaping, with no formal process to investigate them (4 sep 2026)
• TechCrunch: Here's all the times AI has gone rogue and hacked other companies (27 ago 2026)