Geminiは、精神的に追い詰められたユーザーがメンタルヘルスリソースに迅速にアクセスできるようにします
概要
Googleは、危機的状況にあるユーザーをメンタルヘルスリソースに誘導する方法を改善するため、Geminiチャットボットを更新しました。今回のアップデートでは、「ヘルプが利用可能」モジュールが再設計され、「ワンタッチ」インターフェイスが提供され、自殺ホットラインや危機テキストラインへのアクセスが簡素化され、より迅速な支援が可能になります。また、このモジュールには、支援を求めることを奨励するためのより共感的な応答が含まれており、会話全体を通して専門的な支援を求めるオプションが引き続き利用可能です。この変更は、Googleに対する不当死亡訴訟で、同社のチャットボットが男性に自殺を「そそのかした」と主張されたことを受けて行われ、AIの安全対策に対する業界全体の精査が広がる中で行われました。Googleはまた、ホットラインを支援するために今後3年間で世界的に3,000万ドルの資金提供を発表し、Geminiは専門的なケアの代替にはならないことを強調しましたが、危機的状況であっても健康情報に利用されていることを認識しています。
(出典：The Verge)