Facebookの投稿に基づくAI検索?何が問題になり得るか?

The Verge
Metaが導入したAI検索機能はFacebook等の公開投稿を活用しますが、情報の不正確さやハルシネーション(幻覚)が課題となっています。

概要

MetaがFacebookアプリに導入した「AI Mode」は、FacebookやInstagramの公開投稿を基に旅行やアクティビティの計画を支援する検索ツールです。このツールは地域コミュニティの情報を活用することを目指していますが、実際には存在しない投稿を引用したり、遠く離れた都市の場所を推奨したりするなどのハルシネーション(誤情報生成)が頻発しています。また、一部のデリケートな社会問題に対しても不適切な回答を生成することがあり、実用性と正確性の面でまだ改善の余地がある段階です。

(出典:The Verge)