Компании, которые гоняют AI-агентов в промышленных масштабах, упираются в одну и ту же проблему: одна модель плохо подходит для всех задач. Простые вопросы она обрабатывает слишком дорого, сложные ей не по зубам. Snowflake добавила в свой Cortex AI Gateway динамический роутинг моделей: система сама решает, какую модель отправить на задачу, и на части нагрузок экономит до трёх раз на токенах.

Как это работает

Раньше выбор модели работал по статическому списку для каждой задачи. Теперь клиент выбирает режим «auto», и шлюз сам распределяет запросы. За роутинг отвечают два механизма.

Первый, паттерн советника: маленькая модель пробует решить задачу первой. Если не справляется, вызывает большую модель как инструмент и продолжает с её помощью. Второй: классификатор, обученный на истории запросов, автоматически отправляет простые вопросы дешёвым моделям.

Клиент может и закрепить модель: авто-режим не обязателен. Можно ограничить роутинг одной моделью или набором, и система будет выбирать только внутри этих границ. Отдельной платы за роутинг нет, Snowflake тарифицирует только сами токены.

Ключевая цифра: Snowflake заявляет экономию до 3 раз на стоимости токенов для части нагрузок. Цифра получена во внутреннем тестировании компании.

Контроль доступа идёт за задачей

Роутинг в Snowflake привязан к тем же правам доступа, что и работа с данными. Ролевая модель начинает с уровня данных, продолжается на уровне моделей, где роли сотрудников сопоставлены с одобренными наборами моделей, и доходит до агентов, которым можно выдать более узкие права, чем у вызвавшего их пользователя.

Открытые модели можно запускать в регионе клиента, чтобы выполнить требования к месту хранения данных. Весь инференс, открытый и проприетарный, остаётся внутри периметра безопасности Snowflake и не уходит к сторонним провайдерам. Это условие особенно актуально для открытых моделей неамериканского происхождения, включая DeepSeek-V4-Flash и GLM-5.3.

Покупка Natoma добавила шлюзу более 100 MCP-коннекторов с ограниченным управляемым доступом. Агент может получить, например, доступ только на чтение к подключённому инструменту вроде почты, а не полный набор прав.

Контекст позволяет дешёвой модели справиться

Snowflake связывает роутинг с инструментами контекста Horizon Context и Cortex Sense. Без хорошего контекста модель сама занимается разведкой: пишет и тестирует SQL, ищет по данным, повторяет попытки. Это дорого и обычно требует более сильной модели. Если контекст подготовить заранее, шаг разведки исчезает, и ту же задачу часто решает простая дешёвая модель.

В контекст встроена и память агента: при повторном использовании она обновляется и подмешивается в будущие запросы. Система не решает одну и ту же задачу с нуля каждый раз.

Кто ещё играет в роутинг

Технологий в этой нише хватает. OpenRouter - самая известная платформа для маршрутизации по цене и качеству. Nvidia 11 августа анонсировала Switchyard, слой для выбора AI-моделей. У Databricks есть Smart Routing для Unity AI Gateway.

Санджив Мохан из SanjMo видит в этом сдвиг дифференциации: «Snowflake продаёт не роутинг, а роутинг, который не покидает управляемые границы данных, с уже прикреплёнными контролем доступа, тегами и учётом затрат». Для компании, чьи данные и комплаенс уже живут в Snowflake, это реальный рычаг. Для компании без такого центра тяжести нейтральный шлюз может дать больше моделей с меньшим трением.

Мохан делит рынок на три лагеря. Databricks подходит к управлению через инженерию данных и происхождение моделей. Snowflake - через аналитику и контроль доступа. Третий лагерь, нейтральные шлюзы вроде OpenRouter, LiteLLM, Portkey и роутеры гиперскейлеров вроде Azure AI Foundry, конкурирует широтой моделей и отсутствием привязки к вендору.

Что это значит для бизнеса

Роутинг моделей становится стандартом для предприятий, и вопрос теперь в том, какая модель управления уже подходит под структуру данных и команд, а не чей роутер быстрее. Ручной выбор модели превращается в статью расходов: сотни агентов с рутинными вызовами без автоматической проверки затрат быстро накапливают счёт.

Для компаний во Владивостоке и на Дальнем Востоке, которые присматриваются к внедрению искусственного интеллекта, вывод практический: прежде чем выбирать роутер, посмотрите, где живут ваши управляемые данные и насколько ваша маржа чувствительна к стоимости инференса. Разобраться, какие задачи стоит автоматизировать с помощью ИИ и какие модели под них подходят, поможет бесплатный аудит.