AIチャットボットが偽の小売サイトを推薦しているとの研究結果

IP保護会社PodqiがThe Vergeに独占提供した新しい研究では、ChatGPT、Gemini、Perplexityが151ブランドに関する買い物関連の質問にどう回答するかを調べた。対象にはLululemon、Birkenstock、Le Creusetなどの大企業から小規模ブランドまで含まれた。6,795件の回答のうち、3つのAIエンジンはいずれも危険なサイトを引用または表示した。危険なサイトとは、実際の小売業者を装う偽サイト、模倣品を販売するサイト、他人が再登録した旧ブランドのドメイン、誰でも購入して再利用できる失効ドメインなどを指す。GoogleのGeminiが最も少なく、回答の4%で危険なサイトを示した。ChatGPTは中間の8%、Perplexityは最悪の15%だった。ChatGPTは表示した危険なサイトについて24%の場合に警告を行い、小規模ブランドは大企業に比べて約2倍の頻度で回答に危険なサイトが現れた。ブランドの地域サイトに関する質問は特に危険な結果を引き起こしやすく、地域サイトが存在しないブランドについて偽の地域サイトを挙げることもあった。この問題はブランドにとって頭痛の種であり、特にホリデーシーズンにAIを使って買い物をする消費者が増える中で消費者リスクにもなり得る。専門家や企業は、個人情報や支払い情報を入力する前に情報源を確認するよう助言している。Google、OpenAI、Perplexityはいずれも情報品質を重視し、保護策の改善を続けていると回答したが、Perplexityは調査結果の枠組みに異議を唱えた。

(出典：The Verge)