Позиция Anthropic по open-weights моделям

Когда молчание дороже слов

В конце июля 2026 года в мире ИИ разгорелся нешуточный скандал. Коалиция крупнейших технологических компаний — Nvidia, Microsoft, Meta, Palantir — подписала открытое письмо, призывающее регуляторов не вводить «преждевременные ограничения» на открытые модели ИИ. Anthropic в этом письме не оказалось. Отсутствие одного подписанта породило шквал домыслов: компания хочет запретить open-weights модели, чтобы защитить свою закрытую Claude?

Дарио Амодеи публично заявил, что Anthropic «никогда не выступала за запрет open-weights моделей» — и опубликовал развёрнутый пост с позицией компании. Это не продуктовый анонс и не пиар-ход. Это — попытка задать тон одной из самых горячих дискуссий в технологической отрасли.

Разберём, что на самом деле стоит за позицией Anthropic, почему дебаты вокруг открытых весов важны каждому разработчику и какие риски остаются за кадром публичных заявлений.

Что такое open-weights модели и чем они отличаются от open-source

Прежде чем погружаться в политику — разберёмся с терминологией, которую часто путают даже специалисты.

Open-weights модели публикуют только обученные веса, не раскрывая обучающих данных, кода и деталей разработки. Open-source идёт дальше: такие модели предоставляют полный доступ к коду, архитектуре, методам обучения и весам модели, что повышает прозрачность и возможность аудита.

«Open-weight» означает, что веса модели доступны для публичного скачивания — как, например, у Llama, Mixtral или Hunyuan-Large.

Позиция Anthropic: не запрет, а три конкретные меры

Anthropic формулирует вопрос не как бинарный выбор между полностью открытыми и полностью закрытыми системами. Компания предлагает смотреть на проблему через призму возможностей и рисков конкретной модели.

Амодеи считает open-weights модели без опасных возможностей общественным благом: их стоимость ограничена лишь вычислительными ресурсами, а ценность для бизнеса, разработчиков и исследователей очевидна.

Однако вместо запрета Anthropic предлагает три конкретных инструмента регулирования:

graph TD
    A[Угрозы от open-weights моделей] --> B[Авторитарные режимы строят мощный AI]
    A --> C[Мощные модели используются для атак]
    B --> D[Контроль экспорта чипов]
    C --> E[Запрет промышленной дистилляции]
    C --> F[Обязательное тестирование безопасности]
    D --> G[Целевые меры вместо широкого запрета]
    E --> G
    F --> G

Мера 1: Контроль экспорта чипов

Амодеи выделяет два «кошмарных сценария»: авторитарное государство создаёт более мощный AI, чем США, для военного превосходства; и мощные модели используются для кибератак или биологического оружия. Для первого сценария он считает правильным инструментом именно экспортный контроль над чипами, а не запрет моделей.

Мера 2: Борьба с промышленной дистилляцией

Проблему дистилляции следует решать через целевые правовые и коммерческие механизмы. Речь о практике, когда компании используют выходные данные закрытых проприетарных моделей для обучения конкурирующих открытых систем — фактически воруя интеллектуальную собственность.

Мера 3: Обязательное тестирование безопасности

Амодеи предупреждает: в биологии возможна сильная асимметрия атаки и защиты — достаточно мощные модели могут быстро помочь в создании биологического оружия, тогда как защита от него занимает годы. Такие вопросы должны решаться через строгое тестирование перед выпуском, а не предположениями заранее.

«Мы не выступали и не выступаем за запрет open-weights моделей как категории. Вместо этого следует сосредоточиться на том, чтобы мощные чипы не попадали в руки авторитарных режимов, остановить промышленную дистилляцию и требовать тестирования безопасности от всех достаточно мощных моделей — открытых и закрытых.» — Дарио Амодеи, CEO Anthropic

Что говорят оппоненты: Microsoft, Meta и критики

Позиция Anthropic не осталась без ответа. Противоположный лагерь представлен весомыми аргументами.

По мнению Microsoft, открытые модели позволяют широкому сообществу исследователей и разработчиков изучать их поведение, выявлять уязвимости, разрабатывать защитные механизмы и совершенствовать их со временем.

Microsoft считает, что открытость может быть одним из важнейших путей к безопасности ИИ: опора исключительно на закрытые модели не является безопасной по своей сути — они могут быть взломаны, использованы не по назначению или дать сбой способами, которые внешние наблюдатели не смогут обнаружить.

Сам Амодеи признал, что согласен со значительной частью открытого письма — особенно относительно ценности открытых весов для расширения доступа к экономике ИИ, усиления конкуренции и предоставления клиентам большего контроля.

Реальные риски: что наука говорит об открытых моделях

Отвлечёмся от корпоративных позиций и посмотрим на данные.

Преимущества открытых весов

Публикация весов позволяет менее обеспеченным участникам воспроизводить, изучать и строить на основе существующих систем. Без такого доступа сообщества в регионах с ограниченными ресурсами рискуют оказаться исключёнными из преимуществ ИИ.

Открытый выпуск расширяет круг разработчиков и исследователей, способных изучать модель, оценивать её возможности, тестировать на уязвимости и итерировать улучшения. Это повышает вероятность обнаружения как полезных применений, так и опасных изъянов.

Открытые модели позволяют проводить важные исследования в области безопасности ИИ небольшим командам, у которых нет ресурсов крупных компаний.

Риски открытых весов

По мере роста возможностей ИИ решения о выпуске весов должны основываться на тщательном анализе затрат и выгод, а не на идеологическом убеждении, что веса всегда должны быть публичными. Эти решения требуют особой осторожности, поскольку выпуск весов необратим — после публикации они остаются доступными навсегда.

Открытые модели могут быть дообучены на опасных данных — например, с использованием вирусологических публикаций для создания инструментов биологического оружия. Защитные ограничения могут быть легко удалены после выпуска. Открытые модели сложно отслеживать на предмет злоупотреблений, в отличие от закрытых API, где компании могут отслеживать и оценивать возникающие угрозы.

Что это значит для разработчиков и бизнеса

Дебаты в залах заседаний и на страницах блогов CEO напрямую влияют на практику — вот что стоит учитывать уже сейчас.

Три сценария регуляторного исхода

Что делать прямо сейчас

Позиция Anthropic выступает за подход к открытости, который сохраняет значимую прозрачность там, где это возможно, при сохранении надзора за весами фронтирных моделей. Для бизнеса это сигнал:

• Диверсифицируйте стек. Не строить критическую инфраструктуру только на одной закрытой или только на одной открытой модели.
• Следите за нормативной повесткой. Официальные лица США уже рассматривают ограничения на китайские open-weights модели. Это затронет цепочки поставок.
• Тестируйте безопасность заранее. Независимо от исхода дебатов, требования к red-teaming и оценке рисков будут только расти.

Выводы: баланс между открытостью и безопасностью

Дискуссия вокруг позиции Anthropic — это не просто корпоративный спор. Это отражение фундаментального противоречия эпохи ИИ: как совместить демократизацию технологий с ответственностью за их последствия.

Anthropic выступает за подход с приоритетом безопасности и управляемой открытости — вместо неограниченного выпуска весов фронтирных моделей. Это позиция, с которой можно спорить, но нельзя игнорировать.

Главный вывод звучит просто: открытые веса — это инструмент, а не идеология. Как молоток, который можно использовать для строительства дома или для разрушения. Вопрос не в том, запрещать ли молотки, а в том, кому, когда и при каких условиях их давать.

Амодеи не согласен с утверждениями, что открытые модели обязательно упрощают разработку защитных мер или что широкий доступ к возможностям неизбежно помогает защитникам больше, чем атакующим. Это неудобная правда — но её стоит держать в голове каждому, кто строит продукты на AI.

Дебаты только начинаются. И то, как отрасль ответит на этот вызов, определит архитектуру AI-экономики на следующее десятилетие.