エージェント評価のギャップ：企業AI組織が抱えるのは現実との整合性の問題であり、網羅性の問題ではない。そして、そのほとんどがすでに本番環境へデプロイしている
概要
VentureBeatによる157の企業を対象とした調査は、重大な「評価のギャップ」を浮き彫りにしました。企業はAIエージェントに大きな自律性を与えていますが、その信頼性を担保するテストへの信頼度は極めて低い状況です。調査対象の半数が、内部評価を通過したエージェントが実運用で障害を引き起こした経験があると回答しました。自動評価ツールと現実の結果の乖離に多くの企業が懸念を示す一方、3分の2の組織がすでに人間を介さないデプロイを許可、あるいは構築中であるという矛盾が生じています。リスク管理として、多くの企業は自動化を進めつつも、監視体制や人間によるレビューフローへの投資を並行して強化しています。
(出典：VentureBeat)