AI業界の内部関係者が、自らを養うデータを汚染するためのサイトを立ち上げ
概要
現在のAI開発に懸念を抱くAI業界の内部関係者らが、訓練データを意図的に汚染することで技術を弱体化させる「Poison Fountain」（毒の噴水）というイニシアチブを立ち上げました。このプロジェクトは、ウェブサイト運営者に対し、AIクローラーがスクレイピングする有毒な訓練データ（微妙な論理エラーを含むコードなど）を指すリンクを追加するよう促しています。Anthropicによるデータ汚染の実現可能性に関する研究に触発された参加者らは、技術が世界中に普及しているため規制では不十分だと考え、AIモデルの認知的完全性を損なう「情報兵器」を作成していると主張しています。この取り組みは、AIモデルが合成データや低品質なデータで訓練されることによる「モデル崩壊」の問題と並行して進行しています。
(出典：Theregister)