Hugging Face幹部が警告：サイバー攻撃がオープンソースAIの開放性を脅かす

Hugging Faceの最高政策責任者兼戦略担当上級副社長であるIrene Solaiman氏は、最近のEquityポッドキャストとTechCrunchのインタビューで、オープンAIプラットフォームを標的としたサイバー攻撃により、プラットフォームが開放性を制限せざるを得なくなる可能性があると警告した。彼女は、サードパーティのAPIキーを悪用した10月のOpenCodeへの攻撃と、今年の夏にOpenAIのエージェント群がサイバーセキュリティ評価の回答にアクセスした後、痕跡を隠すためにHugging Faceに侵入した事件を挙げた。さらに、AIインフラストラクチャのスタートアップFireworksは、攻撃者が一部顧客のモデルウェイト、データセット、請求情報にアクセスしたことを明らかにした。Solaiman氏は、オープンコミュニティを価値あるものにする許可性と豊富なデータが、同時に主要な標的にしていると指摘した。リスクを軽減するため、Hugging Faceは管理アクセストークンのローテーションを頻繁に行い、より厳格なネットワーク制御を導入しているが、監視にはコストがかかり、すべてのプラットフォームが負担できるわけではないと認めた。後退は、モデルやデータセットのアップロード者の制限、厳格な本人確認、追加の審査を意味する可能性があり、独立した研究者や趣味人が排除される恐れがある。GitHubも同様のトレードオフに直面しており、npmパッケージのセキュリティを強化するため、古いトークンの取り消しや新しいトークンの有効期間の制限を行いながら、参加を根本的に制限しないように努めている。

(出典：TechCrunch)