Компании вкладывают деньги в AI-инфраструктуру быстрее, чем успевают понять, сколько это реально стоит. GPU загружены в среднем наполовину, а треть компаний вообще не отслеживает стоимость вычислений. И при этом большинство планирует расширяться - покупать специализированные чипы и менять провайдеров.

Опрос VentureBeat Pulse Research среди 107 компаний (от 100 сотрудников) показал разрыв между инвестициями и контролем. Компании покупают инфраструктуру, но не видят экономику.

Большинство работают на привычных гиперскейлерах и API провайдеров моделей. Но следующий доллар уже направлен на специализированные вычисления, которые почти никто не использует сегодня. Большинство планирует сменить или добавить провайдеров в течение года, многие - в ближайший квартал.

Решения о покупке принимаются на основе интеграции и совокупной стоимости владения, а не на рекламной цене токена. И это хорошо, потому что реальную стоимость вычислений не видит почти никто: GPU загружены на 50% или меньше, а меньше половины компаний отслеживают, во что им обходится каждый запрос.

Ключевые цифры:

  • GPU загружены менее чем на 50% в большинстве компаний
  • Меньше половины компаний отслеживают реальную стоимость AI-вычислений
  • Большинство планирует сменить провайдера в течение года
  • Интеграция и TCO важнее рекламной цены токена
  • Следующий доллар направлен на специализированное оборудование

Покупают на TCO, выбирают по интеграции

При выборе AI-инфраструктуры компании смотрят не на цену токена, а на то, как решение встраивается в существующие процессы и сколько будет стоить владение в долгосрочной перспективе. Это разумный подход, учитывая, что разобраться в реальной стоимости мешает прозрачность: разные провайдеры считают токены по-разному, добавляют скрытые расходы на кеширование, тонкую настройку и вывод.

Но даже с прагматичным подходом к закупкам траты остаются плохо контролируемыми. Компании инвестируют в AI, не имея инструментов для отслеживания эффективности этих инвестиций.

Что это значит для бизнеса

Разрыв в вычислениях - проблема не только для гигантов. Средний и малый бизнес тоже сталкивается с ней, просто в меньших масштабах. При внедрении искусственного интеллекта во Владивостоке и на Дальнем Востоке важно не просто запустить модель, а понимать её реальную стоимость. Автоматизация с помощью ии должна начинаться с аудита текущей инфраструктуры и выбора провайдера, который даёт прозрачную аналитику затрат.

GPU загружены наполовину, а счета растут. Прежде чем инвестировать в новое оборудование, компании стоит разобраться, насколько эффективно используется текущее. И только потом думать о расширении.