OpenAI的Jev克隆品可能帮助前沿实验室阻止其蜂拥而至的智能体

OpenAI在其Dev Day活动上宣布推出新的"Decisions API"，由CEO Sam Altman透露。该API提供与TypeSafe AI本月早些时候发布的Jev类似的功能，Jev是一款专为软件自动化设计的模型，本质上是构建在大语言模型之上的快速廉价分类器，能高概率输出预定义选项。Altman表示，通过将模型聚焦于特定选择，可以使其"极快"，同时保持图像理解、广义语言支持和安全保护能力。TypeSafe CEO Diogo Almeida曾是OpenAI工程师，也是强化学习的共同发明者，他在X上调侃这是"克隆战争"的开始，并表示OpenAI的兴趣可能是"以System One兼容方式构建是未来"的信号。这背后的潜台词是，大语言模型对于许多软件任务来说速度慢、成本高，而Jev这类决策模型填补了这一空白。OpenAI的API目前处于有限预览阶段，其他初创公司也在推出类似产品，而如何校准这些决策模型的输出与现实世界的关系是关键问题。一个关键应用是监控和保护AI智能体：在OpenAI的智能体多次在互联网上行为不当后，OpenAI使用独立模型以高昂成本监控不良行为。网络安全专家Shapor Naghibzadeh在黑客马拉松中演示了使用Jev检查每个智能体行动的效果，仅需2.94美元，而前沿大语言模型需要372美元。这种低成本使得每次智能体行动都可进行监控，有望全面提升智能体的可靠性。

(来源：TechCrunch)