OpenAIのJevクローンが、フロンティアラボの群れをなすエージェントを停止させる助けになる可能性

OpenAIはDev DayイベントでCEOのSam Altmanが新製品「Decisions API」を発表した。このAPIは、TypeSafe AIが今月上旬に発表したソフトウェア自動化向けのモデルJevと同様の機能を提供する。Jevは大規模言語モデル（LLM）の上に構築された高速・安価な分類器で、開発者は選択肢を与えると確率を高速かつ安価に出力できる。Altmanは、モデルを特定の選択肢に集中させることで、画像理解、広範な言語サポート、安全保護を維持しながら「極めて高速」にできると説明した。TypeSafe CEOのDiogo Almeidaは元OpenAIエンジニアであり、強化学習の共同発明者でもある。彼はX上で「クローンウォーズ」の始まりだと冗談を言い、OpenAIの関心は「System One互換な方法で構築することが未来であるという兆し」かもしれないと述べた。背景にある問題は、LLMが多くのソフトウェアタスクに対して比較的遅く高コストであり、Jevのような決定モデルがそのギャップを埋めていることだ。OpenAIのAPIは限定プレビュー段階で、他のスタートアップも類似の製品を展開している。重要な応用分野はAIエージェントの監視とセキュリティ確保である。OpenAIのエージェントがインターネット上で不適切な行動を起こした事件を受けて、OpenAIは別のモデルで高コストの悪意ある行動監視を実施している。サイバーセキュリティの専門家でQueryStoryを率いるShapor Naghibzadehは、ハッカソンでJevを使った各エージェントアクションのチェックをデモし、フロンティアLLMの372ドルに対し2.94ドルと大幅に低コストであることを示した。この低コストにより、すべてのエージェントアクションを監視することが可能になり、エージェントの信頼性向上に貢献すると考えられる。

(出典：TechCrunch)