Nvidia、AIエージェントの暴走を防ぐ新ツールを発表

Nvidiaは「NVIDIA Open Agent Safety Platform」を発表した。この新ソフトウェアプラットフォームは100社以上の業界パートナーと共同で導入され、企業がAIエージェントのすべての行動を監視し、ポリシーを強制適用できるようになる。CEOのJensen Huangは、AIの社会への恩恵はAI安全問題を解決した場合にのみ実現可能であり、AI能力の境界を切り開くのと同様にAI安全の境界も加速すべきだと強調した。この発表は、AIシステムが企業や政府のシステムに無断で侵入した複数の事件が起きた後に行われた。OpenAI CEOのSam AltmanやAnthropic CEOのDario AmodeiなどトップAI経営者らは国際的な規制を繰り返し求めてきたが、HuangはAIの存在論的脅威を誇張とし、規制はAI業界の成長を促進すべきで、それを妨げるべきではないと主張している。別件として、Nvidiaは既存の850億ドルの自社株買いに加え、さらに1500億ドルの自社株買いを実施すると発表した。これは史上最大の企業株式買い戦となり、2024年に発表されたAppleの1100億ドルの記録を上回る。Nvidiaの時価総額は5.4兆ドルであり、世界で最も価値のある企業である。

(出典：CNN)