В llm 0.32rc2 сменили дефолт на Luna и добавили openai endpoint

В llm 0.32rc2 появилась команда openai endpoint — промпты, чаты и список моделей к любому OpenAI Chat Completions API без предварительной настройки модели в конфиге. Simon Willison добавил её, потому что не нашёл простого CLI для таких эндпоинтов. Вызовы через эту команду не логируются.

Дефолтная модель и цены

Если свою модель по умолчанию вы не задавали, теперь подставляется GPT-5.6 Luna вместо GPT-4o mini — модель новее и сильнее, но чуть дороже.

У Luna тариф $0.20 за миллион входных токенов и $1.20 за миллион выходных; у 4o mini было $0.15 и $0.60. Вернуть mini: llm models default gpt-4o-mini. Ещё дешевле — GPT-5 nano за $0.05/$0.40 через llm models default gpt-5-nano.

LM Studio без установки llm

Для разового вызова пакет ставить не нужно — хватает uvx. В релизе показали промпт с инструментами на локальной google/gemma-4-31b по адресу http://127.0.0.1:1234/v1: uvx --pre llm openai endpoint с флагами -T для tool calls.

Источник: llm 0.32rc2.