El CEO de Google DeepMind, Demis Hassabis, pide “un poco de equilibrio y calma” en el debate sobre la IA, sin ignorar los riesgos. A su juicio, todo se reduce a dos grandes categorías: el desalineamiento —sistemas que hacen algo distinto de lo que los humanos pretenden, incluso eludiendo salvaguardas— y el mal uso —actores maliciosos que reutilizan sistemas potentes con fines dañinos.

Hassabis admite que persisten grandes incógnitas, incluso entre los principales investigadores, y que la probabilidad de que algo salga mal es “definitivamente no nula”. Aun así se muestra optimista: los problemas técnicos pueden resolverse si nos damos tiempo suficiente, con pruebas rigurosas, estándares internacionales más sólidos y cooperación entre países.

Y aun resueltos los riesgos técnicos, quedarían preguntas mayores: ¿qué valores deben guiar un mundo potenciado por IA? ¿Qué pasa con el sentido y el propósito? Esas decisiones, sostiene, no deben dejarse solo en manos de tecnólogos: científicos, filósofos, artistas y el resto de la sociedad deben ayudar a definir lo que viene.

Fuente: Vía @aipost en Telegram.

Imagen de portada: Demis Hassabis, vía Wikimedia Commons, por John Sears (CC BY-SA 4.0).