Экосистема AI Vibe
Иллюзия оптимальной остановки: три режима, в которых агент сжигает бюджет API
Три развилки в соло-цикле с агентом и поиском: модель узнаёт бесполезную выдачу и всё равно крутит запросы до дедлайна; промпт про экономию сдвигает тайминг, но не связывает стоп с качеством доказательств; runtime в обвязке выполнения режет цикл инструментов после серии пустых ходов, и только это в описанных тестах поднимает успех на всех архитектурах. Кто платит за токены и задержку сам, а не через корпоративный потолок, для него разница между вторым и третьим режимом это счёт за API, а не спор о «разумной остановке»; в эссе Dean Lee разбирает эмпирику на семи open- и frontier-моделях.
Когда «видит мусор» не значит «остановился»
В pre-registered study исследователей из Nanyang Technological University, National University of Singapore и Carnegie Mellon University tool-using агенты гоняли 90 000 эпизодов в среде, где retrieval возвращает unhelpful or corrupted результаты. Задача: отделить оценку доказательств от решения об остановке. Dean Lee называет расхождение operational dissociation: в 97–100% случаев модели корректно маркируют useless incoming information, но решения об остановке игнорируют собственные суждения. Метрика time-matched contrast (вероятность остановки после серии useless против серии с useful evidence) для агентов под управлением промпта оказывается почти нулевой.
Агент честно пишет «это не помогает» и тут же делает ещё один вызов инструмента.
Контраст не в глупости модели, а в разрыве между распознаванием и политикой остановки.
Почему «будь бережлив» не спасает токены и комиссию API
В enterprise-схеме, которую описывает Dean Lee, агенту выдают search tools, operational budget и cost warnings в system prompt. Ожидание простое: усиленное reasoning поможет prune unproductive searches до token ceilings. На 90 000 эпизодах с бесполезной выдачей это ожидание не подтверждается.
Маргинальная стоимость каждого запроса складывается из token consumption, API fees, latency и деградации контекста. У авторегрессионной LM нет внутреннего «балансового листа» и disutility от compute: финальный ответ несёт downside risk, а ещё один вызов инструмента выглядит как отложенный риск. Без внешней границы модель продолжает тратить allocation при неожиданной дисперсии.
Промпт-интервенции Dean Lee перечисляет так:
- финансовая стоимость за вызов;
- разрешение отвечать из internal memory;
- явный step budget;
- reasoning flags (в комментариях под публикацией на Dev.to).
Итог у него жёсткий: prompt engineering fails. Разрешение отвечать из памяти даёт произвольные ранние остановки, не привязанные к успеху retrieval.
Для open-моделей 7B–8B в примере step budget восемь шагов. Остановки смещаются к финальному дедлайну, как к квоте «дожечь до конца», а не к качеству найденного.
Harness: пять пустых retrieval подряд, и инструменты отключаются
Теоретическая рамка эссе: sequential decision theory и optimal stopping, marginal value of information против marginal cost. Capital discipline, по Dean Lee, это exogenous constraint imposed by contract, не навык, который вырастет от большего training. Жёсткую границу упражнения нужно зашить в execution engine, а не раздувать cost warnings в промпте.
Единственный конкретный паттерн обвязки, который он приводит:
После пяти consecutive useless results runtime убирает tool access
и оставляет только terminal answer.
В этом сценарии task success растёт на каждой протестированной архитектуре.
Когда в тесте удваивают step budget, точка остановки не меняется: модель по-прежнему ведёт себя как при исходном лимите. Метафора для median enterprise case: агент с API keys и промптом «be frugal» это unmonitored spending ceiling, по сути unhedged American call option без loss aversion к compute.
Что перенести в свой agent loop без ожидания «умной остановки»
Dean Lee не привязывает аргумент к конкретным IDE или фреймворкам: речь про enterprise deployments, execution harness, runtime code и system prompt. Для одного разработчика с агентом в ежедневном цикле перенос всё равно приземляется на инфраструктуру, а не на длиннее инструкцию в чате.
| Сигнал из тестов | Практический вывод для loop |
|---|---|
| 97–100% useless detection при near-zero stopping contrast | Не полагаться на самооценку модели в логах как на стоп-кран |
| Step budget как квота | Считать шаги и деньги снаружи; дедлайн ≠ optimal stop |
| Отключение tools после 5 useless подряд | Политика tool policy в коде, не только в rules |
| Permission answer from memory | Риск раннего ухода в weights без проверки фактов |
В комментариях под Dev.to Dean Lee уточняет разрез по tier: у всех семи архитектур useless detection 97–100%, contrast near zero при baseline prompting; у 7B–8B явный step budget тянет остановку к deadline, у frontier/reasoning-oriented моделей memory permission и reasoning flags дают premature halts.
Для thinking-mode Qwen3-32B при permission answer from weights он приводит bailout на 97% failing-source runs против 11% under standard prompting.
Эффект «сдаться из памяти» сильнее, чем экономный поиск.
Для соло-workflow с платными вызовами API вывод жёсткий: лимиты остановки, счётчики tool calls и отсечение retrieval после серии мусора в harness, рядом с циклом агента. Промпт может предупредить о цене, но не заменяет контракт на остановку.
Источники
- Dean Lee, «The Optimal Stopping Illusion» — Dev.to (доступ: 2026-10-08 UTC)
- Тот же текст на сайте автора — https://deanlee.info/essays/the-optimal-stopping-illusion/ (доступ: 2026-10-08 UTC; дата на странице: Oct 7, 2026)