AIの幻覚が、元々自分は正しいと思っている顧客をさらに悪化させている

レストランやサービス業の従業員は、顧客がChatGPTなどのAIチャットボットに情報や決定を依存し、専門家のアドバイスと矛盾する場合でもそれに従うことが増えていると報告している。例えば、あるウェイトレスは、甲殻類アレルギーのある顧客が、ChatGPTが安全だと言ったからと、警告にもかかわらず料理を注文したと述べた。また、ソムリエの推薦をAIの提案で拒否し、存在しないワインを要求する顧客もいる。公園のレンジャーは、地理的に不可能なAI生成の旅程を持参し、レンジャーの訂正に懐疑的な訪問者に遭遇している。保育士は、睡眠スケジュールについて専門家よりもAIを信頼する親に直面している。一部のレストランでは、AIエージェントからの予約リクエストにより混乱や直前の要求が発生している。従業員は、この傾向が人間の相互作用と専門知識を損ない、MetaのMuseのような新しいAIエージェントの登場で悪化する可能性があると懸念している。

(出典：The Verge)