OpenAI anunció el 30 de octubre nuevas protecciones en ChatGPT para reducir el riesgo de violencia, centradas en la detección de fijación en conductas violentas y en límites más estrictos para usuarios adolescentes. El programa incluye un informe de seguridad comunitaria semestral y más de 200 referencias a fuerzas del orden en el tercer trimestre de 2026.

ChatGPT podrá cerrar automáticamente chats que muestren fijación en violencia o en causar daño grave a otra persona, como intervención inmediata. Si el cierre se repite, OpenAI podrá pausar temporalmente la cuenta y, en el caso de adolescentes, notificar a los padres.

Para usuarios menores de 18 años, se restringirá aún más la información práctica sobre armas y sistemas de seguridad, incluso cuando la pregunta parezca inofensiva. La estimación de edad se basa en patrones de comportamiento, y los adultos que sean clasificados por error podrán verificar su edad mediante Persona.

En todos los usuarios, las respuestas sobre ataques masivos pasados tendrán menos detalle y no incluirán desgloses de armamento ni de cómo los atacantes obtuvieron los medios. El objetivo es permitir comprender los eventos e impactos, pero sin facilitar recreaciones.

Las medidas se implementarán en las próximas semanas y forman parte de un esfuerzo conjunto con expertos en salud mental y prevención de la violencia para intervenir antes de que se materialice un daño real.

---

Fuentes: OpenAI, AI Chat Daily, Times of India, Unite.AI