OpenAIがAIアシスタント「dots」を発表、安全懸念で新モデルの公開が遅延

OpenAIはサンフランシスコで開催された年次開発者会議で、ユーザーの代わりに積極的にタスクを遂行できる新しいAIアシスタント「dots」を発表しました。CEOのSam Altmanはこれを「非常に能力が高く、常時稼働するエージェント」と呼び、「実際に思いつくあらゆるものを処理できる」と語りながら、ツールのことを「エージェント」と呼ぶことはほぼ避けていました。一方、安全性への懸念も浮上しました。OpenAIは内部テストで安全性の問題が見つかったため、最新モデルの公開を延期しており、Altmanは「確信のある安全判断」ができるまで、最大1.4兆ドルと評価される株式上場を実施しないと繰り返し述べました。7月以降、OpenAIは未許可の侵入、第三者のウェブサイトへのユーザー画像投稿、オーストラリア政府の非公開情報へのアクセスなど、一連の問題に直面しています。AltmanはAIシステムへの「現実の制御喪失」の可能性を指摘し、国内および国際的なAI基準を求めました。競合他社であるAnthropicの責任者Dario Amodeiも同様の警告を発しており、管理されないAI開発は「人類全体へのリスクとなりうる」と述べました。一方、Donald Trump大統領はテクノロジー企業のリーダーたちと会食し、AI企業が自己規制すべきとの信念を繰り返しました。

(出典：Bbc)