El CEO de Anthropic, Dario Amodei, publicó un nuevo ensayo, We Must Pace the Frontier, con una tesis incómoda viniendo de quien la firma: la industria de la IA podría necesitar frenar deliberadamente el ritmo del desarrollo frontera antes de que el progreso avance más rápido que nuestra capacidad de controlarlo.

Su preocupación central es el bucle de retroalimentación: la IA se usa cada vez más para acelerar la propia investigación en IA. Cuando ese ciclo se vuelva lo bastante potente, las ganancias de capacidad podrían componerse a un ritmo que deje a la investigación de seguridad luchando por alcanzar.

Amodei no pide una pausa ni detener el desarrollo. Propone ritmar la frontera: checkpoints donde los sistemas cada vez más capaces deban cumplir requisitos de seguridad específicos antes de que el desarrollo continúe. Frenar con reglas, no con freno de mano.

Su plan en tres partes incluye evaluadores independientes con acceso profundo a los laboratorios frontera —Anthropic se compromete unilateralmente a darles acceso permanente nivel empleado para verificar medidas, reportar incidentes y evaluar alineación durante el entrenamiento—, coordinación entre gobiernos democráticos y, eventualmente, acuerdos internacionales sobre los sistemas más potentes.

El ensayo llega tras semanas de renuncias y polémicas de seguridad que salpican a Anthropic. Que quien corre la carrera pida checkpoints obligatorios es la señal más fuerte hasta ahora de que la velocidad misma se volvió el riesgo.

Fuentes: Dario Amodei — We Must Pace the Frontier (ensayo original), The Guardian y The Tribune. Imagen: Dario Amodei.