OpenAI sumó a su junta directiva a Paul Christiano, uno de los investigadores de alineación más influyentes y asesor del CAISI estadounidense. Christiano, fundador del Alignment Research Center, entrará al board de la Fundación OpenAI y a su comité de Seguridad y Protección, liderado por Zico Kolter (Carnegie Mellon).

El nombramiento es una señal en dos direcciones. Hacia afuera, OpenAI refuerza su gobernanza de seguridad con una voz crítica independiente. Hacia adentro, suma a alguien que ha dicho sin rodeos que la industria no va en camino de reducir el riesgo de pérdida de control de los sistemas de IA.

Christiano pertenece a la corriente que toma en serio el riesgo existencial: su trabajo se centra en mantener los sistemas alineados con los intereses humanos y bajo control humano. Que esa figura entre al órgano que supervisa las prácticas de seguridad de OpenAI eleva el listón —y el escrutinio— sobre cada lanzamiento futuro.

El movimiento llega en una semana caliente para la seguridad de la IA: renuncias por desacuerdos de alineación, disputas por el crédito de avances matemáticos y gobiernos exigiendo evaluaciones previas. El comité de seguridad del board será donde esas tensiones se resuelvan... o estallen.

Queda ver cuánto poder real tendrá la voz doomer dentro de una compañía que corre a velocidad comercial. La historia de los boards de IA dice que la independencia se proclama fácil y se ejerce difícil.

Fuentes: TechCrunch y OpenAI (anuncio oficial). Imagen: Getty Images vía TechCrunch.