Los extremistas están utilizando la clonación de voz con IA para potenciar la propaganda. Expertos dicen que les está ayudando a crecer
Los grupos extremistas están aprovechando la clonación de voz y las herramientas de traducción con IA para crear propaganda multilingüe muy atractiva que ayuda a su crecimiento.Resumen
Los movimientos extremistas están adoptando cada vez más herramientas de inteligencia artificial, particularmente servicios de clonación de voz como ElevenLabs, para mejorar su propaganda digital. Los expertos señalan que esto marca una evolución significativa, ya que permite a los grupos producir traducciones fluidas y contextualmente precisas que preservan el tono y la intensidad del mensaje original en múltiples idiomas, superando las limitaciones anteriores en fidelidad y matices.
En el espectro neonazi de extrema derecha, la IA se ha utilizado para clonar la voz de Adolf Hitler en discursos que han acumulado decenas de millones de reproducciones. Además, textos influyentes como el manual neonazi "Siege" de James Mason se están transformando en audiolibros utilizando modelos de voz personalizados de los autores originales. Grupos yihadistas, incluido el Estado Islámico, están utilizando la IA para convertir contenido ideológico basado en texto en narrativas multimedia atractivas y para traducir enseñanzas extremistas del árabe a formatos multilingües fáciles de digerir, eliminando la necesidad de que figuras como Anwar al-Awlaki presten personalmente su voz a materiales de reclutamiento en inglés.
Las autoridades antiterroristas ven esto como un desafío persistente, ya que estos grupos explotan tecnologías emergentes —incluidos chatbots de IA como ChatGPT para planificación y creación de imágenes— para amplificar sus actividades, reflejando adopciones pasadas de criptomonedas para recaudación de fondos anónima y el intercambio de archivos para armas impresas en 3D.
(Fuente：the Guardian)