llama.cpp v1.0: семантические версии для libllama и локального инференса

llama.cpp и ggml вышли в v1.0.0 — как пары библиотек libllama и libggml с публичными заголовками. Команда ggml-org закрепила семантические версии: ломающие изменения в публичном C API из каталога include — только мажор, обратносовместимые фичи — минор, багфиксы без смены API — патч. За 3,5 года проект вырос от компактного локального инференса до платформы для мультимодальных LLM на обычном железе и серверах, и зависимых разработчиков стало слишком много, чтобы молча менять интерфейсы.

Дальше апгрейд проще планировать: несовместимость API и ABI снова будет видна по номеру мажора, а не по сломанной ночной сборке. Под капотом ggml по-прежнему подхватывает бэкенды как динамические библиотеки на старте; llama.cpp тащит квантизацию и портируемые бэкенды, чтобы гонять модели без облака.

Что означает номер версии

• MAJOR — breaking change в публичном C API из ./include
• MINOR — новая фича, обновление бэкенда, поддержка архитектуры модели или расширение API без поломки
• PATCH — исправление ошибки, API не трогают

Модели и железо

Сейчас в каталоге больше 150 вариантов архитектур моделей и основные схемы спекулятивного декодирования. CI раздувают через HF Buckets и HF Jobs, плюс self-hosted раннеры на NVIDIA, AMD, Qualcomm, Arm, IBM и Intel — чтобы каждый коммит в master проверялся на реальном железе.

Каналы дистрибуции

• пререлизные артефакты — Linux, macOS, Windows, Android, iOS
• пакетные менеджеры: Docker, Debian, Homebrew, conda-forge, MacPorts, Winget
• XCFramework для iOS и macOS

Есть и десктопные приложения Llama для macOS и Windows — удобная точка входа, если не собираете бинарник сами.

Источник: llama.cpp v1.0.0 : A stronger foundation for the local AI ecosystem.