Las deepfakes sexuales de Grok casi lo llevaron a ser prohibido en la App Store de Apple. Casi.

Apple amenazó con expulsar la aplicación de IA de Elon Musk, Grok, de su App Store en enero debido a la proliferación de deepfakes sexuales no consentidas. Según NBC News, Apple comunicó a senadores estadounidenses que había "contactado a los equipos detrás de X y Grok tras recibir quejas y ver cobertura de noticias sobre el escándalo" y exigió a los desarrolladores "crear un plan para mejorar la moderación de contenido". En ese momento, Grok, el chatbot de xAI, era accesible gratuitamente en X y como una aplicación independiente, con salvaguardas débiles que permitían a los usuarios generar y compartir fácilmente deepfakes sexualizados e imágenes de "desnudamiento" de personas reales, desproporcionadamente mujeres y algunas aparentemente menores. Estas acciones violaban flagrantemente las pautas de la App Store. Apple revisó los cambios propuestos para las aplicaciones X y Grok, concluyendo que X había "resuelto sustancialmente sus violaciones", pero Grok "permaneció fuera de cumplimiento", advirtiendo de su posible eliminación. Tras más idas y venidas, Apple determinó que Grok "había mejorado sustancialmente" y aprobó su envío. A pesar de la aprobación de Apple y las afirmaciones de xAI de haber reforzado las salvaguardas, Grok aparentemente aún permite la generación de deepfakes sexualizados con relativa facilidad, según fuentes de ciberseguridad y reportes de periodistas.

(Fuente：The Verge)