Jacob Coxon, investigador especializado en pre-entrenamiento de modelos, anunció que deja Anthropic y la industria de la IA: no quiere participar en la carrera por construir sistemas capaces de mejorarse a sí mismos, por temor a que escapen al control humano y terminen destruyendo a la humanidad.

Coxon pasó los últimos tres años en investigación de pre-training entre Anthropic y OpenAI, y su veredicto es demoledor: ninguna de las dos actúa con responsabilidad. Según su mensaje, ambas corren directo hacia la superinteligencia auto-mejorable, apostando con nuestras vidas.

Lo más explosivo vino en la réplica: Evan Hubinger, jefe de Alignment Science en Anthropic, le dio la razón en público. Dijo que en el laboratorio creen sinceramente que la IA podría matar a todos los humanos y cifró su estimación personal en más del 10% en la próxima década. Que el responsable de alineación lo admita abiertamente marca un antes y un después en el debate de seguridad.

La renuncia llega en un momento crítico: Anthropic prepara una salida a bolsa que podría estar entre las mayores de la historia, buscando una valoración de hasta 2 billones de dólares mientras vende a los inversores su compromiso con el desarrollo responsable. Varios investigadores ya habían salido de OpenAI con preocupaciones similares.

El caso reabre la pregunta que divide al sector: ¿puede la competencia entre laboratorios frenarse a sí misma, o la mejora recursiva llegará antes que las salvaguardas? Coxon pide desacelerar; los laboratorios, de momento, aceleran.

Fuentes: WSJ en exclusiva, ABC News y el hilo original en X. Fuentes: WSJ en exclusiva, ABC News y el hilo original en X. Imagen: ABC News.