Cómo saber si una grabación de voz está generada por IA

La clonación de voz mediante IA se ha vuelto enormemente accesible: basta con unos segundos de audio y herramientas de código abierto para producir imitaciones convincentes, lo que ha llamado la atención de los estafadores. Reuters informó en septiembre de que alguien que se hizo pasar por abogado y usó una voz clonada convenció a un gran banco privado italiano de transferir unos 95 millones de euros (alrededor de 105 millones de dólares) al extranjero. Las investigaciones muestran que los oyentes humanos son malos para detectar clones: en un estudio, los participantes señalaron correctamente voces generadas por IA solo el 60 % de las veces, y en otra prueba, al comparar un clon con un hablante real uno al lado del otro, juzgaron que eran la misma persona en alrededor del 80 % de los casos. Antiguas pistas como respiraciones, pausas y disfluencias como los “ehs” ya no funcionan, porque las herramientas de clonación ahora las añaden intencionadamente. En su lugar, los investigadores emplean la forense de audio, analizando rasgos de la forma de onda como el jitter (variación en la duración de los ciclos) y el shimmer (variación en la altura de los picos). Pero ninguna medida única es fiable para todas las herramientas de clonación, por lo que la detección requiere un conjunto de herramientas, y las llamadas telefónicas degradan gran parte del detalle forense clave. Las marcas de agua invisibles que incorporan algunas empresas, como Google, ofrecen otra línea de defensa, aunque pueden eliminarse y son opcionales en algunos programas de código abierto.

(Fuente：Scientific American)