El debate sobre los riesgos existenciales de la inteligencia artificial da un paso hacia el análisis de las capacidades cognitivas extremas. Roman Yampolskiy, profesor asociado de Ciencias de la Computación en la Universidad de Louisville y reconocido especialista en seguridad de la IA, ha lanzado una dura advertencia sobre las consecuencias de alcanzar una

  Superinteligencia Artificial (ASI).

Según el investigador, una vez que los sistemas superen las capacidades humanas en todos los dominios del conocimiento, el margen de comprensión y supervisión de nuestra especie se reducirá drásticamente.

Del desarrollo de herramientas a la pérdida de previsibilidad

Para Yampolskiy, el cambio de paradigma fundamental no reside en obtener asistentes de software más potentes, sino en la ruptura de la gobernabilidad tecnológica.

«Una superinteligencia sería un millón de veces más inteligente que nosotros. Una vez que la IA supere a los humanos en todo, es muy probable que ya no entendamos lo que está haciendo», señala el especialista.

El verdadero riesgo para la civilización radica en perder la capacidad de predecir, auditar y controlar las decisiones que toman estos sistemas autónomos mientras moldean la infraestructura, la economía y la geopolítica mundial.

El factor humano en la era de la inteligencia abierta

Frente al constante avance hacia la apertura y escalado masivo de modelos de frontera, la postura del experto enfatiza la necesidad de mantener el control operativo en manos de personas (human-in-the-loop).

La existencia de inteligencia abierta o de libre acceso carece de valor positivo si la sociedad pierde las herramientas cognitivas y técnicas para guiar su comportamiento. La investigación advierte que garantizar la alineación de sistemas que operan a escalas intelectuales inalcanzables para el cerebro humano representa uno de los desafíos más complejos e urgentes de la informática moderna.