InstagramのAI検出は（また）ひどい状態だ
概要
Instagramの「AIコンテンツ」ラベルシステムが誤作動し、AI生成ではない画像に自動でラベルを付ける一方、実際のAIコンテンツにはラベルを付けられていません。ユーザーはCanvaの背景除去ツールやiPhoneの写真アプリなどでの軽微な編集で誤ラベルが発生したと報告しており、AI学習を妨げる目的で調整された画像も誤ラベルされています。一方、MetaのAIシステム自身が生成した画像にはラベルが付きますが、他のAIツールのものは一貫してラベル付けされていません。著者の実験によると、Meta自身のAIのみがラベルをトリガーします。この不一致は、ユーザーがコンテンツを信頼するためのシステムの目的を損ない、検出方法が不明瞭になっています。
(出典：The Verge)