Informe de seguridad comunitaria y nuevas protecciones para adolescentes

OpenAI anuncia dos nuevas iniciativas para avanzar en la seguridad comunitaria: un Informe de Salvaguardas Comunitarias y restricciones adicionales sobre contenido de armas para menores. La compañía reporta más de 200 referencias a fuerzas del orden en el tercer trimestre de 2026 por amenazas inminentes de violencia, apoyándose en expertos en salud mental y comportamiento para evaluar casos difíciles. El Informe de Seguridad Comunitaria se publicará por primera vez a principios de 2027, cubriendo el segundo semestre de 2026 con actualizaciones cada seis meses, y detallará cómo OpenAI entrena sus sistemas para detectar, investigar y responder a problemas de seguridad, compartirá ejemplos anonimizados y destacará nuevas mitigaciones. Nuevos límites de política restringen que ChatGPT proporcione reconstrucciones detalladas de ataques masivos pasados, incluidos detalles de armas y comparaciones que podrían amplificar la notoriedad de un atacante, independientemente de la edad del usuario. ChatGPT responderá de manera más conservadora cuando chats recientes muestren señales de advertencia de posible violencia, y cuando las conversaciones sugieran fijación en la violencia, ChatGPT podrá finalizar chats automáticamente y posiblemente pausar cuentas temporalmente. Para adolescentes, se añaden más límites a la información relacionada con armas, y el sistema reforzado de predicción de edad evalúa continuamente señales para colocar a usuarios menores de 18 años en la experiencia para adolescentes, con un proceso de verificación que protege la privacidad para adultos. Los controles parentales ahora incluyen alertas si la cuenta de un adolescente es desactivada por violar políticas de violencia, y se están desarrollando notificaciones por discusiones repetidas sobre violencia. Las salvaguardas comenzarán a implementarse en las próximas semanas.

(Fuente：OpenAI)