По данным исследования, проведенного среди 157 крупных предприятий, компании все чаще доверяют ИИ-агентам, но при этом меньше доверяют оценкам, которые должны ограничивать их автономию. Половина из них уже отправила в производство агентов, которые прошли внутренние оценки, но провалились в реальных условиях с клиентами. Только один из двадцати полностью доверяет автоматическим оценкам.

Несмотря на это, две трети организаций уже разрешают или активно работают над тем, чтобы внедрять изменения в агентов в производство на основе автоматических оценок без участия человека. Это создает риск, поскольку оценки могут не отражать реальные последствия, что может привести к ошибкам в работе агентов.