Google EarthのAIディープフェイクツールはわずか1日で終了しました
概要
Googleは、ユーザーが人工知能を利用したテキストプロンプトで衛星画像を編集できるようにする、Google Earthの新機能を撤回しました。このツールを使用すると、国境の難民や病院の近くの爆弾クレーターなどのセンシティブなシナリオを描いたリアルなディープフェイクを作成でき、誤情報に関する重大な懸念が生じました。Googleは当初、デジタルウォーターマークや安全フィルターを強調してこの機能を擁護しましたが、セキュリティ研究者は検出ツールを回避し、制限なしで誤解を招くコンテンツを生成することに成功しました。その結果、Googleは、ユーザーが信頼できる地理情報としてGoogle Earthに寄せる高い信頼を認め、より強力なガードレールを実装するためにこの機能を一時撤回することを決定しました。
(出典：The Verge)