El chatbot logró convencer al 46% de los participantes para descargar una aplicación, frente al 18% obtenido por los estafadores humanos.
El resultado apunta a que estas herramientas pueden mantener conversaciones persuasivas a gran escala y, potencialmente, desplazar a parte de quienes realizan este tipo de fraudes.
La prueba se centró en conseguir la descarga de una aplicación dentro del engaño.
El estudio, publicado en arXiv (2512.16280) por investigadores de cuatro universidades, simuló una estafa tipo "pig-butchering" durante una semana con 22 participantes que conversaron simultáneamente con un humano y un chatbot instruido para no revelar su naturaleza artificial. El chatbot superó al humano no mediante tácticas novedosas de manipulación, sino manteniendo persistencia conversacional, recordando detalles personales y mostrando interés consistente, lo que generó mayor confianza reportada por los participantes y un 80% de los mensajes dirigidos al bot.
Según el documento técnico (Gressel, Pankajakshan & Mirsky, 2025, presentado en USENIX Security 2026), los filtros de seguridad populares detectaron 0.0% de los diálogos de "romance baiting", lo que evidencia que los mecanismos actuales de detección de contenido dañino no identifican este tipo de ingeniería social basada en confianza y persuasión sostenida. Un estudio complementario de Stanford (arXiv:2512.16280) reveló que el 100% de estafadores entrevistados reportan uso diario de ChatGPT en sus operaciones, y que el 87% del trabajo de estafa consiste en tareas conversacionales sistematizadas susceptibles de automatización total.
La escalabilidad del fraude es la mayor preocupación: un solo operador podría ejecutar miles de conversaciones simultáneas impulsadas por IA, abaratando y masificando el "romance baiting". Expertos en seguridad (Vice, HelpNetSecurity, 9to5Mac, agosto 2025-2026) advierten que la detección tradicional basada en patrones de comportamiento humano falla ante IA que evita lenguaje sospechoso y mantiene *personas* creíbles por semanas. La recomendación técnica incluye *red-teaming* específico para ingeniería social, monitoreo de interacciones prolongadas con solicitudes de acción (descargas, pagos), y transparencia obligatoria de identificación de IA en interacciones prolongadas.
Fuentes: arXiv:2512.16280 (Gressel et al., 2025), USENIX Security 2026, Vice "AI Chatbots Are Better at Scamming People Than Human Scammers"/Vice, HelpNetSecurity "LLMs are automating the human part of romance scams", 9to5Mac, Stanford University study (arXiv:2512.16280), @GeneracionI
Photo by Jonathan Saavedra on Unsplash