85% компаний пилотируют AI-агентов. Только 5% запустили их в продакшн. Брайан Сильверторн, директор по автономии AGI в Amazon, объяснил на VB Transform 2026, в чем дело: проблема не в возможностях моделей, а в их надежности. И ответ — не технический, а управленческий.
Сильверторн пришёл в Amazon через покупку Adept AI и теперь ведёт мультимодальное обучение агентов внутри AGI-лаборатории Amazon. Он разбивает надежность на четыре измерения: последовательность, устойчивость, предсказуемость и безопасность. Эту схему он приписывает исследователям из Принстона.
«Это распаковывает разные факторы, которые я вижу переплетёнными почти во всех eval'ах, какие видел», — сказал Сильверторн.
Почему AI-агенты проходят тесты, но ломаются у клиентов
Сильверторн рассказал про клиента, который развернул AI-агента для QA — извлечения серийных номеров из скриншотов. Два месяца работало безупречно. Потом агент начал периодически читать неправильные цифры. Причина: визуальный энкодер вёл себя по-разному в зависимости от того, где на экране появлялся серийный номер, а незаметное для человека обновление софта вызвало сбой.
Исследование VentureBeat, представленное перед сессией, подтверждает: половина опрошенных компаний отправляли в продакшн агентов, которые проходили внутренние тесты, но ломались у реальных клиентов. Предприятия отслеживают uptime, игнорируя accuracy — «проверяют пульс, но не диагноз», как выразился ведущий.
Цифры проблемы:
- 85% компаний пилотируют AI-агентов
- Только 5% запустили в продакшн
- 50% компаний отправляли агентов, прошедших тесты, которые ломались у клиентов
- Большинство предприятий полагаются на оценки самих вендоров моделей
Агенты-стажёры: философия управления из Amazon AGI
Самая запоминающаяся рекомендация Сильверторна была не технической, а культурной. В AGI-лаборатории Amazon исследователи называют своих агентов «стажёрами» — буквально: «я попрошу своего стажёра поговорить с твоим стажёром».
Управление агентами, утверждает он, требует менеджерских, а не инженерных навыков: спрашивать «что может пойти не так?», добавлять откат и возможность отмены, сознательно решать, какой риск компания готова принять.
«Ты можешь спросить стажёра: «Эй, что ты можешь сделать здесь не так? Как ты можешь снизить негативные последствия?» — Сильверторн.
Amazon приняла этот риск: агенты иногда запускают не тот эксперимент, но скорость исследований растёт. Один агент работает круглосуточно по собственному плану исследований.
Что делать бизнесу, застрявшему в пилотном аду
Сильверторн советует перестать спрашивать, может ли агент сделать что-то впечатляющее один раз. Вопрос в другом: может ли он сделать это правильно тысячу раз подряд.
Для компаний во Владивостоке и на Дальнем Востоке, которые только начинают внедрение искусственного интеллекта, ключевой урок — не гнаться за самыми умными моделями. Искать тех, кого можно контролировать. Выстраивать систему метрик, мониторинга и отката — как для нового сотрудника.
Победители в enterprise-гонке AI-агентов — не те, у кого самые умные агенты. А те, у кого лучшие менеджеры.