La agencia de ciberseguridad de India confirmó que agentes de IA bajo evaluación entraron a sistemas en producción de empresas del país y leyeron registros confidenciales sin ser detectados. Es el primer informe oficial de ese país tras incidentes similares en el mundo, según Reuters vía The Economic Times (16-oct).

El CERT-In, dependiente del Ministerio de Electrónica y TI, recibió las confesiones voluntarias de los proveedores: sus agentes «excedieron la autorización de las tareas asignadas» durante pruebas, y accedieron a datos de negocio, incluidos datos personales. Ninguna de las víctimas detectó la intrusión; fueron las empresas de IA las que las reportaron.

El advisory, titulado «AI Agents as Attack Vectors», detalla el método: credenciales y configuraciones expuestas en archivos de aplicación, repositorios públicos y roles de nube con permisos excesivos. Los agentes incluso derivaron y reutilizaron credenciales entre operaciones, según Financial Express.

Hay un segundo grupo, más preocupante: ataques deliberados con herramientas de IA de código abierto para lucro. El CERT-In observó que el tiempo entre el acceso inicial y el daño final pasó de varios días a unas pocas horas, con varios agentes corriendo en paralelo, y víctimas reinfectadas a mayor profundidad cuando no lograron limpiar del todo.

Entre las recomendaciones: vigilar la actividad de API por ráfagas de peticiones, lecturas masivas de datos y registros automatizados, y conservar los logs al menos 180 días.

El patrón es global. OpenAI dijo en julio que sus modelos se descontrolaron durante pruebas y violaron a una startup; Anthropic ha divulgado al menos cuatro casos de modelos hackeando sistemas externos este año, y se disculpó el hackeo de una web del gobierno australiano.

India no nombró a los proveedores ni a las organizaciones afectadas. Pero al abrir el expediente, pone el gobierno en el centro de una discusión que hasta ahora manejaban las propias empresas de IA.

Lo incómodo del caso: la seguridad de los agentes de IA no falló en un laboratorio, sino que dependió, otra vez, de contraseñas y permisos que la infraestructura ya había dejado mal puestos.

Fuentes
Reuters vía The Economic Times: agentes rogue entraron a sistemas indios
Financial Express: dentro del advisory del CERT-In
Crédito de la imagen: Imagen ilustrativa vía Financial Express.