Según un estudio realizado entre 157 grandes empresas, las compañías confían cada vez más en los agentes de IA, pero confían menos en las evaluaciones que deberían limitar su autonomía. La mitad de ellas ya ha desplegado en producción agentes que aprobaron las evaluaciones internas, pero que fracasaron en condiciones reales con clientes. Solo uno de cada veinte confía plenamente en las evaluaciones automatizadas.
A pesar de esto, dos tercios de las organizaciones ya permiten o están trabajando activamente para implementar cambios en los agentes en producción basándose en evaluaciones automatizadas sin intervención humana. Esto crea un riesgo, ya que las evaluaciones pueden no reflejar las consecuencias reales, lo que podría llevar a errores en el funcionamiento de los agentes.
comentario editorial
Por qué importa
Las organizaciones que implementan agentes de IA se enfrentan a un riesgo, ya que las evaluaciones automatizadas pueden no reflejar las consecuencias reales. La siguiente señal podría ser un aumento en el número de errores en el funcionamiento de los agentes, lo que podría llevar a la necesidad de revisar los enfoques de evaluación e implementación.