殺人事件でAIが捏造した証人により、弁護士に5000ドルの科料

ニューメキシコ州最高裁判所は、殺人事件の控訴にAIが生成した偽の証人および偽の警察証言を含め、事実関係と法的根拠を確認していなかったとして、弁護士Stephen Aaronsに5000ドルの科料を科し、また藐視罪に問いました。AaronsはチャットGPTを使用して裁判の「無敵の要約」を作成しましたが、その控訴書には完全に捏造された証人の証言が含まれていました。C・シェノン・ベーコン判事は、AIによる幻覚問題が毎日のニュースのトップストーリーになっていることを指摘し、なぜAaronsがこのリスクを認識していなかったのか質問しました。この事件は、AIが生成した偽の引用や事実を含む法律文書を提出する弁護士の事例が増加していることを示しており、以前に2つの法律事務所やMyPillowのMike Lindellの弁護士团队にも同様の問題が生じていました。

(出典：The Verge)