Laut einer Studie unter 157 großen Unternehmen vertrauen Firmen KI-Agenten zunehmend mehr, schenken jedoch den Bewertungen, die deren Autonomie begrenzen sollen, weniger Vertrauen. Die Hälfte von ihnen hat bereits Agenten in die Produktion gebracht, die interne Bewertungen bestanden hatten, aber unter realen Bedingungen bei Kunden versagten. Nur einer von zwanzig vertraut automatisierten Bewertungen vollständig.
Trotzdem erlauben zwei Drittel der Organisationen bereits oder arbeiten aktiv daran, Änderungen an Agenten auf Grundlage automatisierter Bewertungen ohne menschliches Eingreifen in die Produktion zu übernehmen. Dies birgt Risiken, da die Bewertungen die tatsächlichen Konsequenzen möglicherweise nicht widerspiegeln, was zu Fehlern im Betrieb der Agenten führen kann.
redaktioneller Kommentar
Warum es wichtig ist
Organisationen, die KI-Agenten einführen, sind einem Risiko ausgesetzt, da automatisierte Bewertungen die tatsächlichen Konsequenzen möglicherweise nicht widerspiegeln. Das nächste Warnsignal könnte eine Zunahme von Fehlern im Betrieb der Agenten sein, was eine Überprüfung der Bewertungs- und Einführungsansätze erforderlich machen könnte.