Los dueños y directivos de las principales empresas de inteligencia artificial de Estados Unidos firmaron este martes un compromiso conjunto de seguridad con el presidente Donald Trump, en el marco de una reunión celebrada en la Casa Blanca con los líderes de la industria para responder a las crecientes advertencias sobre los riesgos de esta tecnología. El anuncio fue dado a conocer este martes durante un almuerzo convocado por Trump y el presidente de la Cámara de Representantes, Mike Johnson (ABC7).

Sundar Pichai (Google), Dario Amodei (Anthropic), Mark Zuckerberg (Meta), Greg Brockman (OpenAI), Elon Musk y Jensen Huang (Nvidia) firmaron el documento junto a Trump, según confirmó Ynet News, que detalló el contenido del acuerdo publicado por el propio mandatario en su cuenta de la red social Truth Social. Además de los ejecutivos, asistieron representantes y directivos de Palantir y Amazon, entre otros (ABC7).

El documento, descrito por Trump como un acuerdo de autoregulación de la industria, establece cuatro capas de control y supervisión para las empresas firmantes. Cada compañía se comprometió a implementar controles de seguridad reales en sus modelos de IA más potentes, incorporar auditores o evaluadores externos para realizar valoraciones independientes sobre si sus sistemas de control y monitoreo operan correctamente, y rendir cuentas ante un comité independiente de la junta directiva que supervise los informes de los auditores internos y externos (The Hindu, The Straits Times).

El objetivo central, según el acuerdo, es evitar que estos sistemas se utilicen para ciberataques o amenazas biológicas y químicas. El texto pide controles internos para vigilar las capacidades y la alineación de los modelos durante su entrenamiento y despliegue en áreas como ciberseguridad, bioseguridad y amenazas químicas, garantizando que los modelos "no hackeen ni accedan a sistemas técnicos de forma no intencionada". También exige un equipo interno que verifique que todos los controles, monitoreo y detección funcionen como se espera (KELO/AP, Reuters).

Trump calificó el compromiso como "moralmente vinculante" y propuso la creación de un comité de unas 10 personas para "vigilar todo el conjunto", con un responsable del acuerdo que nombrará en los próximos días tras consultar con la industria. Por su parte, Mark Zuckerberg aseguró que el pacto incluye "un conjunto de principios y compromisos para construir controles internos robustos" y que "todas nuestras juntas directivas revisarán de forma independiente los informes de los auditores" (HuffPost, ABC7).

El anuncio llega en medio de un intenso debate en Washington sobre el futuro de la inteligencia artificial: Johnson había propuesto que Trump y los directivos "entraran en una gran sala, cerraran la puerta y resolvieran el asunto", mientras la Casa Blanca resiste las presiones para imponer regulaciones que podrían frenar la carrera tecnológica frente a China (POLITICO, FMT).

Fuentes: ABC7/Associated Press · Ynet News · The Hindu/Reuters · The Straits Times/Reuters · HuffPost · CNBC · Washington Examiner · KELO/AP. Crédito de la imagen: Molotov News.