OpenAI quiere evitar que los deepfakes desborden las líneas de denuncia de abuso infantil
Resumen
OpenAI anunció un nuevo clasificador diseñado para ayudar a los investigadores de abuso sexual infantil a identificar de manera más eficiente material dañino, incluida imagery de niños generada por IA. La herramienta supuestamente reduce los falsos positivos en un 48 por ciento y duplica la probabilidad de que las imágenes marcadas contengan contenido abusivo, y es el primer clasificador de CSAM ampliamente disponible con una marca específica para material generado por IA. OpenAI ofrece acceso gratuito a organizaciones verificadas, proporciona orientación a desarrolladores y capacita a las fuerzas del orden. El anuncio se produce mientras los informes de CSAM generado por IA al CyberTipline del National Center for Missing and Exploited Children (NCMEC) se han disparado de 67,000 en 2024 a 400,000 en 2025, amenazando con saturar a los investigadores. OpenAI también añadió advertencias y una pausa de 24 horas para los usuarios que intenten generar CSAM con ChatGPT, y reporta todas las instancias al NCMEC. El fiscal general de North Carolina, Jeff Jackson, calificó el enfoque colaborativo de prevención como un experimento novedoso, al tiempo que enfatizó la necesidad de rendición de cuentas.
(Fuente:The Verge)