Carli Michelle Heller, de 30 años y vecina de Bonita Springs, fue arrestada por amenaza escrita de violencia (felonía) tras escribir en Claude que iba a "tirotear" la oficina del sheriff del condado Lee. Anthropic detectó el texto, lo revisó con humanos y avisó a la policía. Lo reportaron Gulf Coast News y WINK entre el 30 de septiembre y el 2 de octubre.

La mecánica, según el reporte de arresto: el 26 de septiembre la usuaria "Carli" plasmó la amenaza en su chat; el clasificador de seguridad la marcó, un equipo humano la revisó y la empresa la entregó a las autoridades. Ella usaba Claude como diario, detalla India Today (5-oct).

No es un caso aislado: Tom's Hardware documenta que es al menos la tercera conversación que llega a la policía desde agosto. Patrón emergente: confesionario digital con copia al sheriff.

Las reglas estaban escritas: Anthropic prohíbe usar sus productos para violencia o intimidación y advierte que puede entregar datos a autoridades en casos limitados. El aviso de privacidad que nadie lee, aplicado al pie de la letra.

El debate de fondo no es si reportar amenazas creíbles —ahí hay consenso—, sino dónde está la línea escrita: qué umbral dispara la revisión humana, qué se guarda y quién audita al auditor. Ninguna de esas reglas es pública con detalle.

La lección para usuarios es brutalmente simple: el chat con la IA no es un diario bajo llave. Todo lo que escribas puede ser leído por humanos y terminar en un reporte policial. Escribir "en confianza" ante una máquina es el oxímoron de 2026.

Fuentes
Blog elhacker.net · Gulf Coast News (WBBH) · WINK News · Tom's Hardware · India Today · The Next Web

Crédito de la imagen: Miami desde la bahía, P. Hughes (ilustrativa) vía Wikimedia Commons, bajo licencia CC BY 4.0.