Geoffrey Hinton, el pionero ganador del Premio Nobel cuya investigación sentó las bases de los sistemas de inteligencia artificial actuales, tiene una advertencia contundente:

—Vamos a tener una IA superinteligente bastante pronto. Y no tenemos idea de cómo mantenerla bajo control.

Muchos investigadores creen que la IA avanzada puede simplemente diseñarse para permanecer obediente. Hinton no está convencido.

Sostiene que los sistemas suficientemente inteligentes podrían desarrollar sus propios objetivos, incluyendo preservarse a sí mismos y buscar un mayor control.

Compara el desafío con el cambio climático, pero dice que la IA puede ser aún más difícil de abordar.

—Con el cambio climático, es muy obvio lo que hay que hacer. Dejas de quemar carbono. Con esto, no hay nada equivalente a eso.

Su conclusión es sencilla: los gobiernos deberían exigir que las empresas de IA fronteriza inviertan fuertemente en investigación de seguridad, no como algo secundario, sino como una parte central de la construcción de sistemas cada vez más capaces.