Anthropic: открытые веса не под запретом, но нужны тесты и контроль дистилляции

CEO Anthropic Дарио Амодеи разъяснил позицию по моделям с открытыми весами на фоне споров о возможном запрете китайских open weights для американских компаний: тотальный бан категории компания не продвигает и не продвигала. Безопасные такие модели он называет общественным благом — кроме вычислений на запуск они ничего не стоят и открывают доступ разработчикам, бизнесу и исследователям.

27 июля 2026 года Амодеи ответил на обвинения в протекционизме. По его словам, запрет для американского бизнеса не снимает два главных риска: авторитарные режимы могут обучить сверхмощную модель втайне для армии и спецслужб, а слишком способные модели — использовать в кибератаках и биоугрозах. Открытые веса здесь опаснее закрытых: после релиза их нельзя отозвать, ограничения снимаются, копии уходят вне мониторинга — так формулирует UK AI Security Institute.

Три меры вместо запрета

Амодеи и Anthropic годами продвигают три точечных рычага вместо бана всей категории:

• Контроль экспорта чипов. Без мощных GPU Китай по scaling laws не догонит США на фронтире.
• Борьба с промышленной дистилляцией. Дистилляция в разы эффективнее обучения с нуля и может сократить отставание китайского фронтира до нескольких месяцев. Anthropic банит аккаунты, которые используют Claude для таких операций, но признаёт: без отраслевой политики одной компании мало.
• Обязательное тестирование безопасности. Все достаточно мощные модели — открытые и закрытые — должны проходить проверку на кибер-, био- и риски согласованности до релиза. Амодеи отмечает сдвиг администрации Трампа и отраслевые предложения тестировать самые способные модели независимо от страны происхождения.

Спор вокруг открытого письма

Часть индустрии подписала письмо в поддержку open weights — доступ к экономике ИИ, конкуренция, контроль у клиента. Амодеи согласен с критикой дистилляции через точечные рамки, но не с тезисом, что открытые веса автоматически упрощают защиту. В биологии, по его оценке, у атакующего может оказаться структурное преимущество. Вывод тот же — не запрещать категорию заранее, а проверять конкретные модели до выпуска.

Источник: Our position on open-weights models.