IBM выкатила LLMON для Granite 4.1: инструкции отдельно от данных

IBM Granite выложила предпросмотровые чекпоинты granite-4.1-3b-LLMON-preview и granite-4.1-8b-LLMON-preview: модели читают LLMON — разметку, где инструкции, данные и требования лежат в отдельных блоках с зарезервированными токенами, а не в одной JSON-строке промпта. В GitHub лежит тулкит, lossless-конвертеры JSON ↔ LLMON и шаблоны workflow.
Зачем не JSON
JSON заточен под парсер: кавычки и скобки встречаются и в обычном тексте, глубину вложенности модель держит статистически. В LLMON ограничители — отдельные токены словаря, структура задаётся локально. Уже собранные пайплайны можно перевести туда-обратно без потерь — примеры в ноутбуках репозитория.
Exec-блок и шаблон чата
LLMON не заменяет chat template, а помечает смысл внутри роли: в turn можно назвать части и выставить exec: True или False. Шаблон собирает внизу exec-блок — какую инструкцию выполнить, на каких данных, с какими ограничениями и куда писать ответ. Блоки с False попадают в контекст, но ни на что не ссылаются. ID блоков из двух символов кодируются одним токеном токенизатора, поэтому ссылка на фрагмент в длинном контексте почти не раздувает промпт.
Инъекции и бенчмарки
На OPI вредная команда прячется в данных классических NLP-задач; обычные instruct-модели часто её выполняют. У LLMON-preview успех атаки на части сценариев падает почти к нулю: в robustness (1 − attack success rate) авторы насчитали +47% к лучшей frontier-модели и +95% к лучшей open-source, похожая картина на ASB и StruQ. На стандартных бенчмарках модели рядом с Granite 4.1 Instruct — достаточно назвать части turn и вызвать apply_chat_template как у обычной chat-модели. В Mellea LLMON уже вшит в вызовы LLM; свой набор тегов можно дотюнить LoRA — в блоге разобран кейс ScienceWorld.
Обучение шло от Granite 4.1 base: корпус пересобрали в LLMON с «приманками» — лишними блоками instruction и data, которые модель не должна исполнять, если они не попали в exec; затем пять стадий GRPO и финальный DPO на тысяче on-policy пар после попыток injection.
Источник: LLMON: An LLM-Native Markup Language, now in Granite 4.1 3B and 8B.