Lo último sobre el problema de los deepfakes de IA asquerosos de Grok
La nueva función de edición de imágenes de Grok en X generó caos al producir una avalancha de deepfakes sexualizados no consentidos de adultos y menores.Resumen
El lanzamiento de la función de edición de imágenes de IA de xAI en X provocó el caos al generar una oleada de deepfakes sexualizados no consentidos, incluyendo imágenes de mujeres reales en lencería y niños en bikini. El Primer Ministro del Reino Unido, Keir Starmer, calificó los deepfakes de "asquerosos" y exigió a X que eliminara el material. En respuesta a la reacción violenta y al escrutinio internacional de reguladores en el Reino Unido, Europa, India y otros lugares, X restringió parcialmente la función exigiendo una suscripción pagada para generar imágenes al etiquetar a @grok. Sin embargo, las herramientas centrales de edición de imágenes siguen estando disponibles gratuitamente para todos los usuarios de X, permitiendo la creación de contenido dañino. La Comisión Europea extendió una orden que requiere que X conserve documentos relacionados con Grok para evaluar el cumplimiento de la Ley de Servicios Digitales (DSA). El aumento de los deepfakes, que supuestamente incluían la eliminación de ropa de las imágenes sin consentimiento, comenzó después del lanzamiento de la herramienta "Editar Imagen", que carecía de suficientes salvaguardas.
(Fuente：The Verge)