「危険で憂慮すべき」：Google、ユーザーの健康が危険にさらされた後、一部のAI要約を削除

Googleは、生成AIを使用してトピックの要点をスナップショットとして提供するAI概要について、Guardianの調査で虚偽かつ誤解を招く健康情報を提供し、ユーザーに危害を及ぼす可能性があることが判明した後、一部を削除しました。具体的には、専門家が「危険で憂慮すべき」と見なした肝機能検査値の範囲に関するクエリの概要が削除されました。これは、重篤な肝疾患を持つ患者が自分の検査結果が正常だと誤解する可能性があるためです。英国肝臓信託基金は削除を歓迎しましたが、検索クエリのわずかな変更で誤解を招くAI概要が表示され続けることや、がんやメンタルヘルスに関する他の不正確な健康情報が残っていることに懸念を示しています。Googleは、共有された事例をレビューしており、削除されなかった他の概要は信頼できる情報源にリンクしていると述べていますが、専門家は、一般の信頼を維持するためにGoogleがAIによる健康情報の不正確性というより大きな問題に取り組む必要があると強調しています。

(出典：the Guardian)