Anthropic propone que solo un juez federal pueda bloquear un modelo de IA

Anthropic propone que solo un juez federal pueda bloquear un modelo de IA
Anthropic presentó discretamente a legisladores de Estados Unidos un borrador de ley federal para regular la seguridad de la inteligencia artificial de frontera, con un candado explícito: el gobierno solo podría bloquear un modelo ante un riesgo inminente y extremo, y solo un juez federal podría ordenarlo.

La propuesta, revelada por Politico el 16 de octubre, no es un proyecto de ley formal. Es un texto confidencial que la empresa ha estado promoviendo en el Capitolio mientras el Congreso define cómo responder a una industria que avanza más rápido que sus reglas.

El umbral es alto y preciso. La intervención federal solo aplicaría si un modelo supone un riesgo previsible e inminente de causar más de 1.000 millones de dólares en daños, o de matar o lesionar gravemente a más de 50 personas.

Ese riesgo tendría que provenir de una de tres fuentes: la creación o liberación de un arma biológica, un ataque cibernético, o un modelo que logre evadir los controles de su propio desarrollador. El lenguaje se inspira en leyes estatales como la SB 53 de California.

El borrador crea además un cuerpo de evaluadores independientes registrados ante el Departamento de Comercio. Las empresas podrían pagarles, siempre que el pago no dependa del resultado de la evaluación, y los evaluadores tendrían 72 horas para reportar un riesgo inminente calificado.

Solo el Departamento de Comercio podría pedir a un juez federal del Distrito de Columbia que suspenda el desarrollo, el despliegue o el uso interno de un modelo. El texto prohíbe expresamente que cualquier otra agencia, departamento o funcionario haga lo mismo por su cuenta.

El punto más discutido es una cláusula de preeminencia federal que limitaría algunas leyes estatales de seguridad en IA. California y Nueva York han sido los principales laboratorios regulatorios del país, y Anthropic había escrito en junio que, sin una ley federal fuerte, los estados deberían conservar plena autoridad.

“Este proyecto representa las propuestas de nuestro Marco de IA Avanzada, que hemos defendido ante legisladores federales y estatales desde junio”, dijo un portavoz de Anthropic. “Son políticas sensatas que creemos que el Congreso debería aprobar”.

La compañía no quiso detallar a cuántos legisladores ha presentado el texto ni cómo lo han recibido. Tampoco hay patrocinador ni fecha de introducción. El Departamento de Comercio no respondió de inmediato a las solicitudes de comentario.

El contexto pesa. La administración de Donald Trump ha rechazado los llamados a una mayor supervisión, mientras una serie de incidentes con agentes de IA alimentó la ansiedad sobre riesgos catastróficos. En junio, Washington obligó a Anthropic a suspender sus modelos más avanzados durante casi tres semanas por controles de exportación.

La crítica más común es que una empresa regule su propia tecnología. Los umbrales de 50 muertes o 1.000 millones de dólares están muy por encima de los incidentes divulgados este verano, y algunos analistas ven en la ruta judicial una forma de hacer más probable, no menos, un bloqueo federal.

Fuentes
Politico — Anthropic quietly pitches its own AI safety bill to lawmakers (16 de octubre de 2026)
Reuters / The Economic Times — Anthropic quietly pitches its own AI safety bill to lawmakers, Politico reports
Insurance Journal / Bloomberg — Anthropic Pitches AI Safety Bill to Lawmakers
Dealroom — Anthropic pitches Congress its own frontier-AI bill
Anthropic — Advanced AI Framework (PDF)

Crédito de la imagen: Leon Neal / Getty Images, vía Politico.