OpenAI、Anthropic に続き国際的な AI 監視機関の設立を呼びかけ
概要
OpenAI の Sam Altman CEO と Jakub Pachocki 首席科学者は、AI 開発を監督する国際機関の設立を提唱しました。この組織は、社会的安全性と整合性を確保するため、必要に応じて AI の進化速度を抑制する権限を持つことが期待されています。この動きは、以前に同様の主張をしていた Anthropic と足並みを揃えるものです。両社は、AI が自ら研究を行うことで進化が加速する「再帰的自己改善」の潜在的リスクを懸念しています。両社が株式市場への上場を控える中、商業的利益が安全性を上回るリスクに対処するため、外部による国際的な監視体制の構築が急務であると警鐘を鳴らしています。
(出典：Gizmodo)