Компании внедряют AI-агентов быстрее, чем строят системы управления ими - и делают это осознанно. Это главный вывод пяти параллельных опросов VentureBeat Research, проведённых в июне среди 573 руководителей. Теперь компании достраивают контроль задним числом: от 57 до 68% опрошенных планируют сменить или добавить вендоров в ближайшие 12 месяцев, а треть - в текущем квартале.

VentureBeat Research исследовала пять слоёв контроля, которые компания должна выстроить, прежде чем доверить агенту самостоятельную работу: идентификация, оценка качества, учёт затрат, контекстный слой и оркестрация. Идентификация решает, какому агенту что разрешено делать и под чьими учётными данными. Оценка проверяет, насколько хорошо агент справился. Учёт затрат отслеживает, сколько стоит работа каждого агента. Контекстный слой поставляет бизнес-данные и определения, на которые агент опирается при ответе. А оркестрация координирует многошаговые задачи. Каждый из пяти отчётов замеряет один из этих слоёв.

Большинство «агентов» - это чат-боты в дорогой упаковке

71% компаний сообщили, что четверть или меньше их развёрнутых «агентов» способны выполнять многошаговую работу самостоятельно. Только 10% сказали, что настоящие агенты составляют большинство их систем. При этом 81% респондентов либо рекомендуют, либо принимают решения о закупках AI в своих компаниях. То есть это не мнение рядовых сотрудников, а оценка людей, которые за это платят.

Одношаговый чат-бот с человеком, читающим каждый ответ, не требует ни одного из пяти слоёв контроля. Настоящий многошаговый агент требует их все. Но большинство компаний не могут сказать, что именно они развернули.

Оценка не поспевает за автономией

Две трети компаний либо уже позволяют агенту отправлять код или системные изменения в продакшен на основе автоматической оценки, без участия человека, либо активно разрабатывают такую возможность в ближайшие 12 месяцев. Проблема в том, что только 5% полностью доверяют оценкам, на основании которых принимается это решение.

Цифра: половина компаний за последний год выпустила в продакшен агента, который прошёл внутренние тесты, но вызвал сбой у клиентов. Проверяйте оценки на реальных данных, а не на внутренних бенчмарках - и не убирайте человека из контура раньше времени.

Шеринг учётных данных - главная дыра в безопасности

69% компаний позволяют хотя бы части своих агентов использовать общие учётные данные - несколько агентов работают под одним API-ключом или сервисным аккаунтом. Организации, где допускается шеринг учётных данных, сталкиваются с инцидентами безопасности или близкими к ним ситуациями в 63,5% случаев. Там, где у каждого агента своя изолированная идентификация - 40,9%. Решение простое: отдельная идентификация для каждого агента, начиная с тех, кто касается продакшен-систем.

Самый дорогой сервер работает вполсилы

Более 80% компаний, которые используют собственные GPU, сообщили о загрузке 50% или ниже. И только 44% строго отслеживают, сколько на самом деле стоят их AI-вычисления и что они приносят. Цифра, за которой стоит гнаться первой - не количество GPU, а загрузка и стоимость за задачу тех, что уже работают.

Уверенные ответы из данных, которыми никто не управляет

57% компаний за последние полгода сталкивались с уверенным, но неверным ответом AI-агента, который коренился в их собственных отсутствующих или противоречивых бизнес-данных - неверные метрики, устаревшие определения, отсутствующие документы. И большинство видели это не один раз. Прежде чем масштабировать агентов, нужно навести порядок в определениях, на которые они опираются, - метрики и сущности в первую очередь.

Рынок без явного лидера

Ни в одном из слоёв контроля нет устоявшегося лидера. Сегодняшние решения по умолчанию - встроенные инструменты, которые поставляются с крупными AI-платформами. Самый высокий интерес к смене - в оркестрации: 68% планируют внедрить, добавить или заменить платформы в течение 12 месяцев, а 34% - в течение квартала. Куда пойдут эти деньги - к встроенным инструментам платформ или к специализированным решениям - главный открытый вопрос рынка.

Что это значит для бизнеса

Исследование VentureBeat подтверждает то, что мы видим в работе с компаниями во Владивостоке и на Дальнем Востоке: AI-агенты внедряют, но внедрение искусственного интеллекта без системы контроля - это инвестиция с неочевидным возвратом. 71% «агентов» не способны на многошаговую работу, а половина компаний уже обожглась на продакшен-сбоях.

Правильный подход - не гнаться за автономией, а выстраивать контроль параллельно с внедрением. AI-агенты для бизнеса приносят результат, когда понятны три вещи: какие данные они используют, как проверяется их работа и сколько это реально стоит. Автоматизация бизнес-процессов с помощью ИИ работает только тогда, когда каждый из этих вопросов решён до запуска, а не после сбоя.

Если ваша компания тестирует AI-агентов, начните с аудита: какие данные вы им отдаёте, как проверяете результаты и кто отвечает, если что-то пошло не так. Эти три вопроса сэкономят больше, чем любой optimisation-фреймворк.

Источник: VentureBeat Research