音声録音がAI生成かどうかを見分ける方法

AIによる音声クローンは飛躍的に手軽になり、数秒の音声とオープンソースツールだけで説得力のある模倣音声を作れるようになった。これは詐欺師の注目を集めており、9月にはロイターが、弁護士を装った人物がクローン音声を使ってイタリアの大手民間銀行に約9500万ユーロ（約1億500万ドル）を海外送金させる事件を報じた。研究によると、人間の聴覚はクローン音声の判別が苦手で、ある研究では聴衆がAI生成音声を正しく指摘できたのは60%にとどまり、別のテストではクローン音声と本物の話者を並べて聞かせたところ、約80%のケースで同一人物と判断された。以前は呼吸音や間、｢えーと｣などの言いよどみが手がかりになったが、クローン作成ツールがこれらを意図的に加えるようになったため、もはや通用しない。代わりに研究者は、ジッター（周期長の微細な変動）やシマー（ピーク高の変動）といった波形の特徴を分析する音声フォレンジックを用いている。しかし、すべてのクローンツールに有効な単一の指標はなく、検出には複数のツールを組み合わせる必要があり、電話通話では重要なフォレンジックの詳細が失われる。Googleなどが埋め込む聞こえないウォーターマークも防御策となるが、除去される可能性があり、一部のオープンソースプログラムでは任意機能である。

(出典：Scientific American)