Правда об ИИ-агентах

Две трети руководителей отделов данных (64%) утверждают, что агенты ИИ их компаний лучше автоматизируют операционные задачи, чем принимают аналитические бизнес-решения более высокого порядка. Это свидетельствует о серьёзном отставании в использовании ИИ для принятия критически важных бизнес-решений.

Почему? Руководители отделов данных признают повсеместное отсутствие уверенности в объяснимости и точности ответов, генерируемых их системами и приложениями ИИ, потому что они либо не требуют, либо просто не могут объяснить, как их ИИ генерирует свои результаты. Только каждый пятый (всего 19%) всегда требует от агентов «показывать свою работу», и подавляющее большинство, 95%, шокирующе признают, что не смогли бы полностью отследить решения ИИ от начала до конца, если бы их попросили предоставить такое обоснование регулирующим органам.

На самом деле, только 11% рассматривали бы агентов ИИ для любой бизнес-функции, включая конфиденциальные, высокорискованные функции, такие как найм, соблюдение нормативных требований или принятие этических решений.

Отсюда

См. также другие публикации, посвященные агентам