Jev от TypeSafe: на выходе числа и вероятности, не текст LLM

TypeSafe AI выкатила Jev — первый публичный пример «System One», или decision model: на входе текст и полуструктурированное состояние, на выходе только числа, вероятности по категориям и оценки уверенности, без генерации ответа. Simon Willison разобрал, чем такой API отличается от обычной чат-модели по цене, скорости и прозрачности решений.

Схема простая: в API собираете объект состояния — строку, список строк или пары «имя–значение» — и добавляете один или много вопросов в том же контексте. Jev считает их параллельно, поэтому десятки вопросов укладываются примерно во время одного запроса. Платят только за вход: 0,042 доллара за миллион токенов, ответ API бесплатен — дешевле, чем 0,05 у GPT-5 Nano. TypeSafe называет это «frontier-intelligence function call»: неструктурированное состояние внутрь, типизированные вероятностные решения наружу.

Три типа вопросов

• Noul — утверждение «да/нет», ответ от 0 до 1 (название от распределения Бернулли, так подтвердил CEO на Hacker News).
• Choice — выбор из заданных опций и распределение вероятностей по всем вариантам.
• Score — шкала с числовыми уровнями и описаниями, модель возвращает точку на диапазоне.

Willison относит Jev к классификации: спам, метки, приоритизация. Для поиска он пробует BM25 на сотню кандидатов и переранжирование score-вопросами по исходному запросу — дешёвый слой поверх дешёвого retrieval.

Число без объяснения

У LLM можно попросить обоснование, хотя оно не гарантированно честное. Jev отдаёт только число: какой признак сработал, API не покажет. Автор отдельно предупреждает про смещение: в эксперименте «хороший ли город?» по Bay Area Cupertino оказался выше East Palo Alto. С другой стороны, прогон сотен и тысяч промптов стоит центы — structured eval для таких моделей становится обязательной привычкой, а не роскошью.

Эксперименты сообщества

• jevchat — «чат», где на каждый следующий символ задаётся choice-вопрос.
• jev-leftpad — left-pad через choice «сколько пробелов до targetLength».
• jev-2048 — игра 2048 на decision model.

Меньше чем за неделю после анонса появился open-weight аналог Kev на Qwen 3.5 в размерах 0.8B, 4B и 9B, плюс бенчмарк JevBench для сравнения «Jev-class» decision models — отдельный слой под классификацию в пайплайне, не замена текстовой генерации в агенте.

Источник: Jev introduces a new shape of LLM - System One, aka Decision Models.