Facebookの投稿に基づくAI検索?何が問題になり得るか?
概要
MetaがFacebookアプリに導入した「AI Mode」は、FacebookやInstagramの公開投稿を基に旅行やアクティビティの計画を支援する検索ツールです。このツールは地域コミュニティの情報を活用することを目指していますが、実際には存在しない投稿を引用したり、遠く離れた都市の場所を推奨したりするなどのハルシネーション(誤情報生成)が頻発しています。また、一部のデリケートな社会問題に対しても不適切な回答を生成することがあり、実用性と正確性の面でまだ改善の余地がある段階です。
(出典:The Verge)