Hugging Face se está utilizando para desamparar o desvestir fácilmente a mujeres y niños
Un informe revela que los modelos de código abierto en Hugging Face facilitan la creación de imágenes íntimas no consensuadas, incluso de niños.Resumen
Un informe de la organización sin fines de lucro europea AI Forensics revela que los modelos de edición de imágenes de código abierto alojados en Hugging Face se utilizan fácilmente para generar contenido explícito no consensuado de mujeres y niños mediante simples solicitudes. Los investigadores descubrieron que siete de los nueve principales modelos de edición de imágenes en la plataforma cumplían sin problemas con las solicitudes de desnudar a personas, careciendo de barreras de seguridad. Además, espacios señuelo creados por los investigadores recibieron miles de solicitudes sexuales en una semana. AI Forensics ha instado a Hugging Face a implementar medidas de protección a nivel de plataforma para frenar la proliferación de contenido dañino.
(Fuente：The Verge)