Decisions API OpenAI: развилки без полного ответа Luna

Decisions API на базе GPT-6 Luna вышел в общий доступ — OpenAI заточила его под вопросы с ограниченным ответом: куда маршрутизировать, как классифицировать вход, что сделать дальше. Когда свободный текст не нужен, на таких развилках заявляют до 10× меньшую задержку, чем у той же Luna через Responses API.

Контекст подаётся текстом, изображением или нативным JSON. В одном запросе — до 400 вопросов, вдвое больше лимита публичной беты. С беты добавили кэширование промптов, обработку в США и ЕС, интеграцию с GPT‑Live и дополнительную ёмкость в нескольких регионах Азии.

Box в оценке на 30 страховых сертификатах получил примерно в 5 раз более быстрый выбор маршрута при той же точности, что и через Responses API: рутину забирает автоматика, кейсы с низкой уверенностью — ревьюерам.

Три типа ответа

• predicate — оценка от 0 до 1, что условие выполняется (например, видимые повреждения на фото).
• choice — один из заранее заданных вариантов; в ответе ещё вероятности и confidence (продолжить, повторить, уточнить).
• score — оценка по шкале рубрики как взвешенное среднее уровней (серьёзность, тема, нарратив).

Голос и живые сценарии

Decisions API встроен в GPT‑Live: во время разговора можно решать, уточнить ли вопрос, перенаправить запрос или эскалировать. Для аватара тот же механизм — в session.triggers задаётся блок с type: decisions на событие вроде session.input_transcript.delta, модель выбирает реакцию (neutral, happy, concerned), приложение ловит decision.event и анимирует персонажа.

Цена и старт

Отдельный Decisions endpoint: вход $0.10 за миллион токенов, кэшированный вход $0.01 за миллион; за output-токены не берут. Для eligible-клиентов доступен Zero Data Retention. Удобный вход — одна частая развилка в Decisions Playground или первый запрос по гайду разработчика на реальных примерах.

Источник: Build more responsive apps with the Decisions API.