De acordo com uma pesquisa realizada entre 157 grandes empresas, as companhias estão cada vez mais confiando em agentes de IA, mas confiando menos nas avaliações que deveriam limitar sua autonomia. Metade delas já implantou em produção agentes que passaram por avaliações internas, mas falharam em condições reais com clientes. Apenas um em cada vinte confia totalmente nas avaliações automatizadas.

Apesar disso, dois terços das organizações já permitem ou estão trabalhando ativamente para implementar mudanças nos agentes em produção com base em avaliações automatizadas sem intervenção humana. Isso cria um risco, pois as avaliações podem não refletir as consequências reais, o que pode levar a erros no funcionamento dos agentes.