AIエージェント企業はプライバシーを約束している——実現するのか？

今年のOpenAI DevDayで、CEOのSam Altmanは新しいAIエージェントDotsを発表し、OpenAIは「フロンティアAIにおけるプライバシーの新基準を設定したい」と述べ、競合するMetaのMuseがユーザーデータを安全に保てていないと暗に批判した。しかしMetaも、MuseをOpenClawのより安全な代替として立ち上げた際に同様の約束をしており、Mark Zuckerbergは「プライバシーとセキュリティのためにゼロから構築された」と述べていた。Museは急成長し、米国で数週間で60万人の日次アクティブユーザーを獲得したが、その約束は果たされていないように見える。Metaは安全なVMに保存されたユーザーデータに依然アクセスでき、ゼロデイ脆弱性がすぐに露呈し、起動直前に重大なセキュリティ問題が複数発生し、そのうちの一つはユーザーがMetaの内部データベースにアクセスできる可能性があったと報じられた。Museはまたデータを積極的に収集し、デフォルトでMetaがユーザー入力をモデル訓練に利用できるようにし、プライベートメッセージのアップロードやユーザーの住所を他人に提供するなどの不快な状況を生んだ。OpenAIはこれらの失敗に乗じ、Dotsをより信頼できるものとして位置づけ、ユーザー制御や企業向けのゼロデータ保持オプションを提供しているが、Dotsは高額なサブスクリプション層限定のため利用者が少なく、プライバシースキャンダルも少ない。記事は、AIエージェントが本質的に大量の個人データを必要とし、一部のユーザーを不安にさせること、またInstinctのように広すぎる利用規約で批判された企業もあることを指摘している。最終的に、AIラボは「有用にする」「可愛く無害にして不気味さを和らげる」「プライバシーを約束する」という三つの戦略に賭け、それが守られることを願っている。

(出典：The Verge)