Microsoft Decision-1.1 в Vercel AI Gateway: структурные ответы

Vercel подключила к AI Gateway модель Decision-1.1 от Microsoft AI: вместо свободного текста она возвращает заранее заданную структуру. Это заточено под маршрутизацию обращений в поддержку, выбор следующего шага в workflow и проверку ответов других моделей — без вытягивания JSON из болтовни.
В одном запросе можно задать несколько вопросов с общим входом, если одному контексту нужны сразу несколько решений.
Форматы ответа
- Boolean — вероятность, что условие истинно
- Choice — выбранная категория и вероятности по каждой опции
- Score — числовая оценка на шкале, которую задаёте вы
Подключение
Тело запроса такое же, как у Decision-1: достаточно сменить идентификатор модели на microsoft/decision-1.1. Вызов — через AI SDK, OpenAI-совместимый Decisions API или AI CLI. Для TypeScript нужен пакет ai версии 7.0.128 и новее, для Python — OpenAI SDK 3.26.0 и новее.
Decision-запросы попадают в логи Gateway, учитываются в бюджетах и поддерживают decision fallbacks. Прогнать модель можно в playground или по документации decision models.
Источник: Decision-1.1 now available on AI Gateway.