Discord admite que un error en la moderación por IA bloqueó injustamente a usuarios por imágenes inofensivas
TechCrunch
Discord admitió que un error en su sistema de IA suspendió erróneamente a más de 8,000 usuarios por compartir imágenes benignas.Resumen
Discord ha confirmado que un fallo en su sistema de moderación por inteligencia artificial causó la suspensión injusta de más de 8,000 cuentas en los últimos dos meses. El error provocó que se marcaran como contenido prohibido imágenes inofensivas, como hojas de cálculo, tableros de ajedrez y texturas de juegos. Aunque el sistema está diseñado para que los moderadores humanos revisen el contenido marcado, este error técnico provocó bloqueos automáticos inmediatos. La plataforma está trabajando actualmente en la restauración de las cuentas afectadas y en la implementación de salvaguardas para evitar futuros errores de este tipo.
(Fuente：TechCrunch)