Перейти к содержимому
Экосистема AI Vibe

Новости

Четверть запросов AI Gateway — не текст, а «решения»

Редакция 9 ноября 2026 г.

Диаграмма трафика AI Gateway: тонкая полоска расходов decision-моделей на фоне четверти всех запросов.

В продакшне всё чаще делят ИИ на два слоя: длинная генерация и короткое суждение — метка, скоринг, выбор ветки без длинного текста. Vercel зафиксировала в ноябрьском Production Index: decision-модели тянут 26% запросов через AI Gateway при 0,53% расходов; один такой вызов в среднем обходится примерно в семьдесят раз дешевле типичной языковой модели.

На шлюзе их подключили в середине сентября, в каталоге 15 вариантов от восьми вендоров. В октябре почти треть paid-команд хотя бы раз звала decision-модель, у 11% за месяц не ушло ни одного запроса в текстогенерацию. Почти весь этот поток — Jev от TypeSafe AI: почти в четыре раза больше суммарных обращений к моделям Anthropic; на каждый доллар Jev приходилось 64 доллара на Anthropic.

Кто чаще режет задачу на «решение»

  • Меньше 10 млн токенов в месяц — decision-модель у чуть больше пятой части команд
  • 100 млн–1 млрд — почти половина
  • Выше 10 млрд — семь из десяти

У топ-1% по расходам в медиане 29 разных моделей за месяц, у нижней десятой — одна. Чем плотнее в агенте мелкие развилки, тем сильнее выигрыш от короткого ответа вместо полноценной генерации.

Голос и смена лабораторий

Голосовые модели в октябре трогали около 11% paid-команд против 4% в июле — рост 161%. Обычная схема: речь в текст, ответ языковой модели, озвучка; к октябрю чаще собирают цепочку сами, чем берут модель на все три шага.

Среди новых команд в октябре первым выбором чаще стала Anthropic — примерно вдвое чаще, чем OpenAI. Доля OpenAI в долларовом трафике шлюза с декабря выросла с около 9 до почти 15 центов на каждый потраченный доллар; у Anthropic за тот же период доля сжалась примерно вдвое — до около 32 центов.

Очередной релиз каждые два месяца

Больше половины запросов к языковым моделям в октябре ушло на версии младше 60 дней — до сентября такой доли не было выше трёх десятых. Медианный интервал между релизами внутри семейства — 61 день; через месяц после пика типичной модели три четверти команд, которые крутили её на максимуме, уже переключились.

У половины команд от 10 млн токенов в месяц сменилась самая частая модель: четыре пятых взяли более свежий релиз, три пятых — другую лабораторию. Opus 5.5 в первый полный месяц лидировал по spend, Sonnet 5.5 доходил до 26% paid-команд.

Источник: Decision models take 26% of requests; Anthropic now wins new teams 2:1.