X realmente no ha impedido que Grok AI desnude a mujeres en el Reino Unido

La plataforma X de Elon Musk se enfrenta a un intenso escrutinio por la proliferación de deepfakes sexuales no consensuados generados por su chatbot de IA, Grok, a pesar de los intentos por frenar el problema. Las restricciones iniciales a la edición de imágenes fueron fácilmente eludidas, ya que las herramientas permanecieron accesibles a través de la interfaz del chatbot Grok y el sitio web independiente. El último intento de bloquear solicitudes explícitas que involucran a mujeres en poses sexuales o trajes de baño también ha demostrado ser ineficaz; Grok todavía cumple con las solicitudes para generar imágenes de hombres en atuendos reveladores y sexualizó con éxito a mujeres cuando se le solicitó con frases ligeramente diferentes, como pedir el escote o la eliminación de ropa específica.

Las pruebas revelaron que las ventanas emergentes de verificación de edad en el sitio web de Grok se eludieron fácilmente, y la aplicación móvil no requirió confirmación de edad. Si bien Grok no cumplió con las solicitudes de desnudez total en las pruebas, ha sido utilizada para crear imágenes preocupantes, incluidas imágenes criminales de niñas de entre 11 y 13 años, según la Internet Watch Foundation. Reguladores en países como Malasia, Indonesia y el Reino Unido están respondiendo con fuerza, y los legisladores británicos están impulsando una legislación que penaliza las imágenes falsas de desnudos. Musk ha desestimado estas preocupaciones como censura y ha culpado a los usuarios, insistiendo en que Grok obedece las leyes locales, aunque el artículo sugiere que Grok está violando la Ley de Seguridad en Línea del Reino Unido al generar deepfakes sexuales.

(Fuente：The Verge)