La brecha de evaluación de agentes: Las organizaciones de IA empresarial tienen un problema de alineación con la realidad, no de cobertura, y la mayoría está implementando en producción de todos modos
Las empresas están aumentando la autonomía de los agentes de IA a pesar de desconfiar de las pruebas de evaluación actuales.Resumen
Un estudio de VentureBeat entre 157 empresas revela una marcada "brecha de evaluación": las organizaciones otorgan mayor autonomía a sus agentes de IA aunque confían poco en las pruebas diseñadas para controlar dicha autonomía. La mitad de las empresas encuestadas ya ha desplegado agentes que superaron sus evaluaciones internas pero fallaron al interactuar con clientes. A pesar de que el 95% de los líderes técnicos expresa desconfianza en las evaluaciones automatizadas debido a su falta de alineación con resultados reales, dos tercios de las organizaciones ya permiten despliegues sin intervención humana o están construyendo sus procesos para lograrlo. Ante este escenario, las empresas están compensando estos riesgos mediante una mayor inversión en observabilidad de producción y flujos de revisión humana.
(Fuente：VentureBeat)