Jacob Coxon, investigador de Inteligencia Artificial en Anthropic, renunció a la empresa advirtiendo que los laboratorios de IA están compitiendo por construir sistemas autodidactas que podrían escapar al control humano y poner en peligro a la humanidad.
Coxon, quien se especializa en entrenar nuevos modelos de IA haciendo que consuman grandes cantidades de datos, anunció el martes que abandona la empresa porque no quiere participar en una carrera industrial para construir sistemas de IA que puedan mejorarse a sí mismos, temiendo que tales sistemas pudieran salirse de control y destruir a la humanidad.
Te puede interesarLa junta de Nvidia cierra la puerta al regreso de Jensen Huang y la acción cae 4% antes de su reporte"Ni una empresa está actuando de manera responsable. Están corriendo directamente hacia la superinteligencia autodidacta y jugando con nuestras vidas", escribió Coxon en su anuncio de renuncia. "Esto no es un truco de marketing. Ninguna otra actividad humana representa este nivel de peligro."
Coxon pasó previamente por OpenAI, donde fue miembro del personal técnico y coautor del sistema GPT-4o, antes de mudarse a Anthropic. Ahora deja ambas compañías por preocupaciones de seguridad.
La renuncia se suma a una serie de advertencias internas sobre seguridad de la IA en los principales laboratorios, en momentos en que la competencia por desarrollar modelos cada vez más capaces impulsa a las empresas a acelerar sus lanzamientos.
Fuentes:
- https://www.wsj.com/tech/ai/anthropic-researcher-quits-over-out-of-control-ai-fears-707b7628
- https://revkin.substack.com/p/a-blunt-warning-from-an-ai-researcher
- https://www.facebook.com/cnn/posts/former-ai-researcher-jacob-coxon-tells-cnns-anderson-cooper-why-he-quit-anthropi/1465908738735106/
Te puede interesar¿Se está enfriando el boom de la IA? Arabia Saudita lidera la caída del interésCrédito de imagen: Google DeepMind / Pexels




