El CEO de TikTok advierte: la gente entrega permisos a agentes de IA sin entender qué autoriza. Shou Zi Chew, en la conferencia DBS Asia Future Forward de Singapur (12-oct), pidió revisar qué accesos se dan a los agentes: tarjetas que compran de más por «celo», secretos en chats públicos y spam que ahora cuesta centavos, según CNA.

El ejemplo es doméstico y demoledor: das tu tarjeta a un agente para una compra y, por cumplir, compra de más. La literalidad algorítmica no negocia; ejecuta. Por eso TikTok entrena a su gente en qué no pegar en chatbots públicos: secretos comerciales ni información privilegiada.

Chew puso el marco: corto plazo sobreestimado, largo subestimado. En 2-3 años espera un breakthrough científico real (física, biotech, química, materiales) y ve «non-zero chance» de superioridad en algunos aspectos. El cerebro aún gana en visión fina y memoria de largo plazo, según Business Insider.

El consejo corporativo: encarecer el spam en tu plataforma en vez de soñar con cero spam, y herramientas para defenderte del abaratamiento del ataque. Los agentes bajaron el costo de crear problemas; hay que subir el de causarlos.

Y el dato cultural: en TikTok el 59% de lo servido a cuentas nuevas sería «AI slop», pero quienes solo miran eso son un dígito bajo. La gente aún detecta lo falso y lo castiga mirando a otro lado.

Permisos revisados, expectativas calibradas. El agente obediente necesita un amo atento.

El telón incluye Anew Labs, la unidad de descubrimiento de fármacos con IA de ByteDance, y una iniciativa de $1.800M en biología con gobierno USA, Meta y Google. Los agentes compran; los laboratorios investigan.

Fuentes
CNA: Chew pide entender los riesgos de ciberseguridad de la IA
Business Insider: agentes sin entender cómo funcionan
Crédito de la imagen: Shou Zi Chew, CEO de TikTok, fotografía de Lukasz Kobus, licencia CC BY 4.0 vía Wikimedia Commons.