Два письма про открытые веса: Microsoft за дистилляцию, Anthropic — за тормоза

За две недели индустрия выдала два письма с прямо противоположными тезисами — Simon Willison собрал их в одном тексте. Суть для тех, кто пишет код с агентами: спорят не о философии ИИ, а о том, можно ли держать локальные веса и учиться на выходах чужих моделей.

Открытые веса

24 июля Microsoft выпустила Open Weights and American AI Leadership — 235 подписантов от NVIDIA и Amazon до OpenAI. Письмо отбивает идею запретов open-weight моделей из соображений безопасности, в том числе после инцидента с Claude.

Главный аргумент: закрытые модели не безопаснее сами по себе — их взламывают, а снаружи не проверить. Открытые веса позволяют сообществу искать уязвимости и чинить их. Неожиданный штрих — явная поддержка дистилляции, когда одна модель учится на ответах другой, как в open source.

Anthropic письмо не подписала. Через три дня CEO Дарио Амодеи ответил в Our position on open-weights models: риски авторитарных режимов и кибератак, призыв «раздавить промышленную дистилляцию» — при этом компания, по его словам, никогда не требовала полного запрета open-weights.

Тормоз на фронтире

28 июля опубликовали Pacing the Frontier — 1324 сотрудника frontier-компаний, в том числе Дарио Амодеи, Илья Суцкевер и Jack Clark. Просят правительство США помочь выстроить международные инструменты, которые сознательно замедляют фронтир автоматизированной разработки ИИ.

Повод — давление конкуренции и ускорение: Anthropic пишет 80% кода с Claude Code, агент OpenAI Sol сократил сквозные расходы на инференс на 20%, Kimi K3 спроектировал чип под свою nano-модель. Когда лаборатории сами автоматизируют разработку такими темпами, призыв «замедлиться» звучит иначе, чем год назад.

Источник: Open letters about AI development.