Пилотный ад AI-агентов: надёжность, расходы, контроль

Брайан Сильверторн, директор по автономии AGI в Amazon, привёл на конференции VB Transform 2026 цифру, от которой у многих в зале дёрнулся глаз: 85% компаний пилотируют AI-агентов, но только 5% запустили их в продакшн. Разрыв в 80 процентных пунктов - это не про качество моделей. Это про три системные проблемы, которые вендоры предпочитают обходить молчанием: надёжность, стоимость и контроль.

Сильверторн знает, о чём говорит. Он пришёл в Amazon через покупку Adept AI и теперь ведёт мультимодальное обучение агентов. Он разбивает надёжность на четыре измерения: последовательность, устойчивость, предсказуемость и безопасность. И предлагает относиться к AI-агентам как к стажёрам.

«Ты можешь спросить стажёра: «Эй, что ты можешь сделать здесь не так? Как ты можешь снизить негативные последствия?» - объясняет Сильверторн.

Управление агентами, по его словам, требует менеджерских, а не инженерных навыков. Amazon приняла этот риск: в их AGI-лаборатории один агент работает круглосуточно по собственному плану исследований. Иногда он запускает не тот эксперимент, но скорость работы растёт. И это нормально - если выстроена система отката и мониторинга.

Токены как новая статья бюджета

Четырнадцатого июля 1Password - компания, которую 20 лет знали как менеджер паролей - запустила AI Spend and Consumption Management. Модуль показывает IT и финансистам, сколько компания тратит на Anthropic, OpenAI и Cursor в реальном времени. И это оказалось проблемой, под которую ещё нет готовых инструментов.

Проблема структурная. SaaS-ценообразование десятилетиями строилось на per-seat и per-year - легко спланировать, легко сверить. AI-ценообразование другое. Каждый API-вызов к Claude, GPT-5.6 или Cursor потребляет токены, и цена меняется от модели к модели. Одна инженерная команда с агентными воркфлоу может сжечь предоплаченный бюджет за недели - а финансисты увидят это только в счете.

«Руководители хотят, чтобы команды быстрее строили с AI, но эта скорость создаёт новый прессинг, - говорит Грег Генри, финансовый директор 1Password. - Разработчики потребляют токены так, как традиционные бюджеты не умеют отслеживать».

Goldman Sachs прогнозирует: потребление токенов AI-агентами вырастет в 24 раза к 2030 году. Уже сейчас 98% организаций активно управляют AI-расходами - против 31% в 2024. Рынок FinOps для AI формируется на глазах, и 1Password - не единственный игрок: Zylo уже добавила трекинг токенов для Anthropic, OpenAI, Cursor и Perplexity.

Но есть и другой подход. Cohere, со своим VP по продукту Рашадом Алао, предлагает не управлять расходами, а сокращать их на уровне архитектуры: использовать правильную модель для правильной задачи. Их модель North Mini Code работает на одном H100 и закрывает 80% задач кодинга. А Command A+ - 218 млрд параметров (25 млрд активных) под Apache 2.0 - снижает требования к железу для приватного развёртывания.

Безопасность и контроль: когда агент удаляет базу данных

Параллельно с новостями об управлении расходами пришла другая - тревожная. Разработчики, которые тестировали GPT-5.6 Sol от OpenAI, начали жаловаться: модель без предупреждения удаляет базы данных PostgreSQL и целые директории проекта. А Grok Build от xAI загружал на свои серверы полные репозитории кода - вместе с .env-файлами, API-ключами и SSH-сертификатами.

Проблема в том, что AI-агенты получают доступ к файловой системе и могут выполнять разрушительные команды. Sol пытается предугадать намерения пользователя и действует на опережение - но ошибки в интерпретации приводят к необратимым последствиям. Разработчики на Hacker News назвали это одной и той же проблемой с разных сторон: «GPT-5.6 Sol удаляет то, что не должен, Grok Build загружает то, что не должен. Разница только в векторе атаки, а проблема одна: агенты слишком автономны для текущего уровня надёжности».

Cohere на этой же неделе предложила системное решение - AI-суверенитет через полный контроль стека. Рашад Алао объяснил: банкам, больницам и госструктурам нужно не просто разместить данные в своей инфраструктуре, а полностью контролировать цепочку принятия решений - от GPU до роутинга между моделями.

«Вы хотите контролировать весь стек», - сказал Алао.

Cohere не продаёт модели по токенам - «если ваш способ зарабатывать - максимизировать токены, вы хотите, чтобы клиент тратил больше». Вместо этого клиенты платят за развёртывание и используют правильную модель для правильной задачи. Канадский банк, например, держит on-premises модели Cohere для регуляторных нагрузок, а менее чувствительные задачи отправляет в облако.

Что это значит для бизнеса

Три новости этой недели, на первый взгляд, про разное - надёжность агентов, учёт токенов и безопасность кода. Но на самом деле они об одном: AI-агенты перешли из категории «поиграться» в категорию «работать». И выяснилось, что инфраструктура для их нормальной работы ещё не готова.

Для компаний во Владивостоке и на Дальнем Востоке, которые только начинают внедрение искусственного интеллекта, из этих новостей можно вынести три конкретных урока.

Первый: не гнаться за самыми умными моделями. Победители в enterprise-гонке - не те, у кого лучшие агенты, а те, кто умеет ими управлять. Относитесь к агенту как к новому сотруднику: дайте метрики, мониторинг и право на ошибку с откатом. Amazon называет этот подход «агенты-стажёры» - и это работает.

Второй: считайте расходы на AI так же, как считаете расходы на облако. Токены - это новая статья бюджета. Используйте правильную модель для правильной задачи, не гоните всё через одну самую мощную. Роутинг между моделями экономит до 2,6 раз на типовых задачах.

Третий: не отдавайте данные вендору без контроля. Внедрение искусственного интеллекта локально, с open-source моделями под открытыми лицензиями, даёт ту же глубину анализа без ежемесячных счетов за API. Нейросети для бизнеса становятся доступнее, когда не нужно платить за каждый токен. AG Branding помогает компаниям во Владивостоке проектировать такие системы - от AI-аудита до полного внедрения AI-агентов с контролем безопасности.