Andrej Karpathy, ex director de IA de Tesla y cofundador de OpenAI, ha explicado su visión sobre la superinteligencia: "La superinteligencia no llegará de golpe. Emergerá a través de la automatización". Para Karpathy, la superinteligencia es la continuación a largo plazo de la automatización.

Primero, la IA automatiza el trabajo digital. Luego, el trabajo físico. Eventualmente, incluso el descubrimiento científico, la invención y la toma de decisiones se vuelven cada vez más automatizados. Este proceso gradual transformará fundamentalmente la sociedad.

El mayor desafío puede no ser una única IA tomando el control. Podría ser una pérdida gradual de comprensión y control humano como resultado de miles de millones de sistemas de IA autónomos que interactúan, compiten y toman decisiones a una escala y velocidad que ningún ser humano puede comprender completamente.

La superinteligencia puede no parecerse a una IA todopoderosa. Puede parecerse a una economía de inteligencias autónomas. Karpathy advierte que esta visión distribuida de la superinteligencia plantea desafíos únicos de gobernanza y seguridad.

Fuente: [@aipost](https://t.me/aipost). Imagen: Unsplash. Andrej Karpathy.