Netomi 为将代理系统扩展到企业所吸取的经验教训

OpenAI
Netomi 分享了在企业中部署可靠、可扩展的代理 AI 系统的三个关键经验教训:构建以应对复杂性、并行化以实现低延迟以及将治理嵌入运行时。

内容摘要

Netomi 为财富 500 强客户构建了代理系统,并概述了在企业环境中可靠扩展 AI 代理的三个基本经验教训。第一,系统必须为现实世界的复杂性而构建,通过使用受管制的编排管道来处理混乱的、跨多个系统的流程,该管道利用 GPT-4.1 进行快速工具使用和 GPT-5.2 进行更深入的规划,并遵循持久性提醒和结构化规划等代理提示模式。

第二,为了满足严格的企业延迟期望,Netomi 强调并行化而非顺序执行,利用 GPT-4.1 的低延迟流式传输和稳定的工具调用能力,确保整个系统在极端负载下(例如在 DraftKings 流量高峰期间)保持响应。

第三,治理必须是运行时的固有部分,而不是事后的考虑。Netomi 的架构将模式验证、策略执行、个人身份信息 (PII) 保护和确定性回退等机制直接集成到执行层中,确保在高度监管的行业中实现值得信赖和合规的操作。

(来源:OpenAI)