代理评估差距:企业人工智能组织面临的是现实一致性问题,而非覆盖率问题——且大多数组织无论如何都在向生产环境部署
内容摘要
VentureBeat 对 157 家企业的调研揭示了一个严峻的“评估差距”:企业正赋予人工智能代理更高的自主权,却对其用于保障安全性的测试缺乏信心。半数受访公司曾部署过通过了内部评估但在实际应用中却失败的代理。尽管由于与现实结果的一致性较差,企业对现有的自动化评估工具缺乏信任,但三分之二的组织已允许或正积极构建“零人工干预”的部署流程。为了降低风险,企业在推动自动化的同时,也在加大对生产可观测性和人工审核流程的投入,试图在快速迭代与可靠性之间寻找平衡。
(来源:VentureBeat)