Гонка доверия: почему AI-агентам нужны границы

Агент спланировал пять шагов, выполнил их и на пятом сломал процесс. Компания не смогла объяснить, почему он принял это решение: в логах только действия, а логика осталась внутри модели. Кто отвечает за ошибку, тоже непонятно. Так полная автономия выглядит в продакшне, и именно здесь большинство проектов с AI-агентами буксует.

Прогноз Gartner: больше 40% агентных проектов, запущенных сейчас, не доживут до 2028 года. Компании, которые получают от агентов реальную выгоду, идут в другую сторону: ограничивают свободу, ставят контрольные точки и наводят порядок в данных и процессах. Разбираем, что именно они делают иначе.

Гонка доверия

Два года компании соревновались, кто даст агентам больше свободы: пусть планируют, решают, действуют, чем меньше человеческого вмешательства, тем лучше. Сейчас эта стратегия встречается с продакшн-средами, и во многих внедрениях она разваливается.

Gartner связывает провалы с тремя причинами: рост расходов, размытая бизнес-ценность и слабые механизмы контроля рисков. Опрос McKinsey по зрелости ответственного AI даёт вторую цифру: средний уровень по индустрии 2,3 из 4, и только около 30% организаций достигли уровня три и выше по управлению агентным AI.

Есть и структурная проблема, которая к хайпу отношения не имеет. Автономия и подотчётность движутся в противоположные стороны: агент, который сам планирует многошаговую задачу, одновременно становится агентом, чьи отдельные решения сложно восстановить задним числом. В финансовых сверках, комплаенсе и контроле качества такая непрозрачность превращает управляемую ошибку в регуляторный риск. Поэтому risk, legal и compliance блокируют агентные проекты на входе в продакшн.

Из тысяч продуктов, продаваемых под маркой «агентный AI», реальную автономность имеют около 130. Остальное - автоматизация и чат-боты, переупакованные под момент.

Компании-лидеры перестраивают распределение автономии. Сквозные процессы разбивают на узких агентов с одной зоной ответственности и жёстко ограниченными полномочиями. Контрольные точки стоят перед высокорисковыми действиями: передачей чувствительных данных, проведением транзакции, запуском внешней системы. Журнал решений и происхождение данных доступны по запросу для любого агента. Данные лежат в контролируемой среде, чтобы ограничить радиус сбоя.

Агенты надёжны настолько, насколько их документы

Вторая причина провалов лежит под агентами. Корпоративный AI строили вокруг инженерии контекста: документы резали на чанки, делали эмбеддинги, собирали пайплайны поиска. Для одного ассистента это работало. Когда в компании десятки AI-приложений, одни и те же документы каждая команда обрабатывает по-своему. Разные агенты начинают понимать бизнес по-разному: один и тот же продукт описан несогласованно в CRM, тикетах Jira и документах.

Инженер данных Shuhua Xu называет это проблемой управления знаниями. Документ обновили, а пять систем подхватывают изменения в разное время. Отделы дублируют одинаковые пайплайны и держат собственные индексы. Лучшая модель не спасёт при разрозненных документах: принцип тот же, что у всех систем с данными, garbage in, garbage out.

Решение Xu повторяет архитектуру корпоративных данных: общая платформа знаний, которой управляют один раз, а все AI-приложения получают готовые представления. Четыре слоя: Raw сохраняет первоисточники, Refined превращает их в объекты с метаданными, Integrated связывает через общие бизнес-сущности, Serving публикует контекст для конкретных агентов. Собрали один раз, переиспользуют все отделы.

Команда решает больше, чем инструмент

MarTech сравнил две компании с одинаковым набором AI-инструментов. Harry's Hats, онлайн-ритейлер: три продуктовые команды, в каждой маркетолог, дизайнер, копирайтер и разработчик, решения принимают внутри команды, приоритеты ясны. После внедрения ИИ компания выпускает пять-шесть кампаний в неделю тем же составом.

Insomnia Insurance, крупная зарегулированная компания с функциональными отделами: копирайтер передаёт текст дизайнерам и ждёт очереди неделями, кампания проходит три-четыре круга согласований. Инструменты выдают результат за минуты, до рынка проект доходит за месяцы.

Разница в операционной модели: автономия команд, короткие циклы, готовность к экспериментам. Технология одинаковая, а устройство работы определяет результат.

Меньше инструментов, больше данных

Отдельная история про стек. Компания платит за 40 инструментов: продажи считают клиентов в своей CRM, маркетинг ведёт базу в другой системе, финансовый директор три дня собирает отчёт из пяти таблиц. HubSpot выпустил гайд по консолидации: решить, какая система станет системой учёта, задать стандарты данных, убрать дубли, мигрировать и обучить команды.

Сюда же ложится взгляд Duane Forrester, ветерана поиска с 25-летним стажем. По его словам, поиск станет инфраструктурным слоем, который снабжает агентов данными, а брендам придётся доказывать надёжность и людям, и машинам. Доверие становится валютой, и его зарабатывают порядком в данных и контенте.

Что это значит для бизнеса

Четыре новости складываются в одну картину. Результат решает порядок вокруг модели: границы автономии, единые знания, готовая команда, чистый стек. Мощность модели и новизна инструментов уходят на второй план, когда у агента нет зоны ответственности, контрольных точек и журнала решений.

Компании во Владивостоке и на Дальнем Востоке часто начинают с выбора модели. Опыт enterprise-проектов показывает: начинать стоит с аудита процессов, данных и границ. Внедрение искусственного интеллекта даёт стабильный результат, когда автоматизация бизнес-процессов опирается на единые данные, а команда умеет работать короткими циклами. ИИ-агенты для бизнеса окупаются там, где контроль настроен до запуска.

Бесплатный AI-аудит AG Branding покажет, какие процессы автоматизировать первыми, где поставить контрольные точки и какой беспорядок в данных убрать до внедрения.