Zuckerberg: los labs tienen 'responsabilidad e incentivo' de entrenar seguro; Meta retrasó Muse meses por safety

Zuckerberg: los labs tienen 'responsabilidad e incentivo' de entrenar seguro; Meta retrasó Muse meses por safety
Mark Zuckerberg rompió filas con los jefes de OpenAI y Anthropic al afirmar que los laboratorios de IA ya tienen 'responsabilidad e incentivo' suficientes para entrenar sus modelos de forma segura, sin necesidad de un freno coordinado para toda la industria. En un mensaje publicado en X el martes, el CEO de Meta sostuvo que la competencia y la responsabilidad legal les dan motivos de sobra para actuar por su cuenta en materia de seguridad.

Como prueba, Zuckerberg reveló que Meta retrasó durante meses el lanzamiento de su agente de IA Muse a inicios de este año para reforzar su seguridad, una decisión que tomó de forma unilateral sin pedir a sus rivales que también pausaran sus avances. Añadió que Meta destina la mayoría significativa de su cómputo a necesidades de los usuarios y no a la auto-mejora de la IA, marcando distancia del discurso catastrofista.

El choque llega tres días después de que Dario Amodei pidiera frenar el ritmo de mejora de los modelos frontera, con un plan de tres pasos que empieza por evaluadores independientes dentro de los laboratorios. Sam Altman y Elon Musk respaldaron el llamado en cuestión de horas, tras la renuncia del investigador Jacob Coxon advirtiendo que la IA 'podría acabarnos antes del fin de la década'. Según el Financial Times, el personal de OpenAI y Anthropic fue tomado por sorpresa por los pronunciamientos de sus propios jefes.

La propuesta de Zuckerberg es otra: evaluadores externos en vez de freno generalizado, dejando que cada laboratorio avance al ritmo que le permita entrenar seguro. Del otro lado del tablero, Donald Trump minimizó los riesgos y el vicepresidente JD Vance cuestionó la sinceridad de las alarmas, mientras el debate se expande de la seguridad existencial a la ciberseguridad y la competencia geopolítica.

Fuentes: Reuters, Bloomberg vía Moneycontrol, Forbes. Imagen: Mark Zuckerberg (2025), fotografía de Jeff Sainlar / Meta, licencia CC BY-SA 4.0 vía Wikimedia Commons.