AI-агенты в бизнесе: главный риск - не автономность, а сложность между ними

Компании заводят не одного AI-агента, а целый парк. Каждый вызывает API, зовёт других агентов и лезет в приложения, которые проектировали без мысли о машине-решателе. Главный риск тут не автономность, а сложность связей между агентами. Разбираем, почему флот агентов теряет управляемость и что с этим делают.

Сложность растёт не по головам, а по связям

Добавили второго агента - появилось одно новое соединение. Добавили десятого - и это уже не десять связей, а десятки: любой агент может позвать любого, и каждый вызов тянет цепочку дальше. Сложность не ползёт вместе с числом агентов, она растёт с числом путей между ними. И граф этих путей в компании не рисует никто.

Обращение в поддержку, которое раньше задевало одну систему, теперь проходит через четыре агента, прежде чем его увидит человек. Каждая передача - точка решения, которую никто не утверждал.

Чего не видят команды

Спросите службу безопасности, какие агенты дотягиваются до каких систем, и вы услышите тишину. Спросите, какой агент запустил какое действие три шага назад, - снова тишина.

Обычно на это отвечают чек-листом: согласовали агента, залогировали, поехали дальше. Чек-лист проверяет одну точку во времени, а сложность живёт вдоль всей цепочки. Управлять цепочкой пачкой разовых согласований не выйдет.

Ломается это предсказуемо. Сначала расползаются права: агент для саммари тикетов получает широкий доступ к API, потому что нормальный скоуп - это ещё один спринт, и про него забывают. Через полгода у того же агента находится путь в платёжную систему. Никто такого не подписывал.

Дальше размывается ответственность. Пять агентов трогают один процесс, на четвёртом шаге что-то ломается, и выясняется, что за это звено никто не отвечает: оргструктура остановилась на «запустить агента» и не дошла до имени человека.

Что делать

Начинают с идентичности. У каждого агента должно быть своё имя в реестре, своя урезанная зона прав и живой человек-спонсор, который за него отвечает. Это нужно, но мало.

Дальше нужен надзор через всю цепочку, в реальном времени: что агент сделал, что запустил следом и где оборвался след. Но и надзор говорит только о том, что уже случилось. Смотреть на цепочку - не то же самое, что управлять ей.

Самое пропускаемое звено - исполнение: остановить вызов, который выходит за правила, до запуска, а не просто записать его для разбора через три недели. Дашборд, который показывает нарушение пять минут назад, - это мониторинг. Система, которая не даёт нарушению случиться, - это управление. Нужны оба, а собрали пока первый.

Во Владивостоке и по Дальнему Востоку мы помогаем выстроить автоматизацию и ИИ в бизнесе так, чтобы агенты масштабировались без потери управления. Начать можно с бесплатного AI-аудита: он покажет, где внедрение искусственного интеллекта даст результат быстрее всего.