Согласно исследованию, проведенному среди 101 предприятий, инфраструктура, которая обеспечивает AI-агенты бизнес-контекстом, развивается быстрее, чем может быть обеспечена ее надежность. Это приводит к тому, что агенты часто дают уверенные, но ошибочные ответы, основанные на недостающих или противоречивых данных.
Также отмечается, что метод Retrieval-augmented generation уже стал стандартным источником контекста, а извлечение данных, встроенное в поставщиков, постепенно вытесняет специализированные векторные базы данных. Однако большинство предприятий все еще сталкиваются с проблемами, связанными с недостатком доверия к этим системам.
комментарий редакции
Что это значит
В ближайшем будущем можно ожидать усиления внимания к обеспечению надежности и точности AI-систем в бизнесе. Однако остается неясным, насколько быстро предприятия смогут адаптироваться к этим требованиям и какие меры будут приняты для повышения доверия к AI-технологиям.