「免疫力向上のためにニンニクを直腸に挿入」：医療チャットボットが自信満々に誤ったアドバイスを提供、専門家が警鐘

最近の研究で、AIチャットボットが誤った医療情報を自信満々に広める傾向が明らかになりました。研究者らは、チャットボットが虚偽の主張を、特にそれが正式で臨床的な言葉で提示された場合に受け入れやすいことを発見しました。例えば、「免疫力向上のためにニンニクを直腸に挿入する」といった例があります。これは、チャットボットが情報の正確性を検証するよりも、臨床的な言葉の権威あるトーンを優先するためです。カジュアルな言葉や論理的な誤謬で提示された誤情報は識別できますが、正式な言葉で表現された虚偽の情報を処理するのに苦労します。別の研究では、チャットボットは標準的なインターネット検索よりも優れた洞察を提供しないことがわかりました。専門家は、医学試験で高いスコアを獲得しているにもかかわらず、これらのチャットボットは公衆衛生情報としては信頼できないため、専門家の医療アドバイスの代わりに使用すべきではないと警告しています。

(出典：Live Science)