Введение: старая битва в новой упаковке

Каждый раз, когда появляется мощная технология, возникает один и тот же паттерн: крупные игроки, уже занявшие позиции на рынке, начинают объяснять широкой публике, почему эту технологию нельзя «отдавать в чужие руки». Так было с криптографией в 1990-х, с Linux в 2000-х — и сегодня то же самое происходит с открытым искусственным интеллектом.

Суть позиции крупных frontier-лабораторий сводится к трём тезисам: открытые модели опасны, «ящик Пандоры» ИИ можно открывать только через «ответственных привратников» — желательно самих же лабораторий — и только самым прибыльным и «проверенным» пользователям.

Но насколько эти аргументы реально состоятельны? Давайте разберём каждый из них по существу.

1. «Открытый ИИ опасен, потому что им могут воспользоваться злоумышленники»

Это самый популярный и самый эмоционально убедительный аргумент. Критики открытого ИИ апеллируют к опасности передачи мощных инструментов в руки потенциально неквалифицированных или злонамеренных пользователей.

Скептики опасаются, что без надлежащих мер защиты открытый ИИ может привести к нежелательным последствиям — от распространения дезинформации до создания более изощрённых киберугроз.

Звучит убедительно — но этот аргумент рассыпается при ближайшем рассмотрении.

⚠ Логическая ловушка
Аргумент «злоумышленники воспользуются» применим абсолютно к любой технологии: интернету, шифрованию, химии, биологии, автомобилям. Он никогда не был достаточным основанием для полного закрытия доступа к технологии — и с ИИ не должно быть иначе.

Стандартное возражение — «ИИ слишком опасен, чтобы оставлять его в открытом доступе» — заслуживает серьёзного рассмотрения. Критики утверждают, что публикация ИИ — это не то же самое, что публикация научной статьи: статья описывает возможность, а программа сама является этой возможностью. Асимметрия реальна. Но вывод из этого не следует. То же самое можно сказать о науке в целом — кто знает, что может сделать опубликованный результат в чужих руках? Однако мы не реагируем на это засекречиванием физики. Мы мониторим, устанавливаем правила и оставляем фундамент открытым.

2. «Открытый исходный код — это не настоящий open source»

Ещё один распространённый манёвр — подмена понятий. Компании публикуют «открытые» веса модели, но при этом скрывают данные для обучения, методологию и лицензии ограничивают коммерческое использование.

Большинство AI-моделей сегодня создаются внутри отдельных вендоров, с использованием внутренней инфраструктуры и ограниченным доступом для сторонних участников. Это не open source — это закрытая разработка, завёрнутая в открытую этикетку.

Многие так называемые открытые модели не раскрывают состав обучающих данных — а это может включать защищённые авторским правом или предвзятые материалы. Если вы разворачиваете такую модель и данные окажутся проблемными — юридически или этически — именно вы или ваша компания понесёт ответственность.

ℹ Важное различие
Open weights (открытые веса) ≠ Open source (открытый исходный код). Первое — это доступ к готовой модели. Второе — полная прозрачность: код, данные, методология обучения. Большинство «открытых» моделей сегодня — это open weights, не более.

Сравнение подходов к открытости

ПараметрПолностью закрытые (GPT-4)Open Weights (Llama 3)Полный Open Source
Доступ к весам❌✅✅
Исходный код обучения❌❌✅
Данные обучения❌❌✅
Коммерческое использованиеПо лицензииЧастичноСвободно
Возможность аудита❌Частично✅
Зависимость от вендораВысокаяСредняяНизкая

3. «Открытый ИИ угрожает национальной безопасности»

После выхода DeepSeek R1 в январе 2025 года этот аргумент зазвучал особенно громко.

Открытый ИИ стал частью геополитического противостояния США и Китая после того, как китайская компания DeepSeek выпустила свою открытую модель R1, что вызвало опасения относительно конфиденциальности данных, цензуры и национальной безопасности.

Но давайте разберёмся, что здесь реально происходит. Закрытые модели американских компаний точно так же могут собирать данные пользователей, подчиняться запросам правительства и скрывать механизмы работы. Разница лишь в том, что закрытость делает это незаметным.

Тот, кто зависит от системы, которую не может изучить — не использует инструмент. Он доверяет оракулу, которого ему не позволено исследовать.

Открытость, которую можно отключить по желанию — это не фундамент, это одолжение. Нам нужны и открытые модели, чтобы любой мог их использовать и строить на их основе, и открытый исходный код, чтобы любой мог видеть, как они созданы.

📝 Исторический прецедент
Аналогичные дебаты уже проходили в 1990-х вокруг алгоритма шифрования PGP. Правительство США пыталось ограничить его распространение из соображений «национальной безопасности». В итоге шифрование стало основой безопасного интернета — и мы все от этого выиграли.

4. «Закрытые компании лучше обеспечивают безопасность»

Этот аргумент строится на предположении, что frontier-лаборатории являются ответственными стражами и лучше справляются с управлением рисками, чем открытое сообщество.

Открытый исходный код широко признан эффективной стратегией для снижения доминирования крупных AI-лабораторий в различных сферах — экономической, социальной и политической.

Открытый исходный код ускоряет прогресс, продвигает исследования в области безопасности ИИ и стимулирует инновации. Он позволяет большему числу людей участвовать в разработке, даёт возможность оптимизировать существующие модели вместо того, чтобы начинать с нуля, и обеспечивает масштабные коллаборативные усилия с более разнообразными перспективами.


graph TD
    A[Закрытая модель] --> B[Узкий круг проверяющих]
    B --> C[Медленное обнаружение уязвимостей]
    C --> D[Долгое исправление]
    
    E[Открытая модель] --> F[Тысячи независимых исследователей]
    F --> G[Быстрое обнаружение проблем]
    G --> H[Публичное исправление]
    G --> I[Peer review и аудит]
    
    style A fill:#ff6b6b,color:#fff
    style E fill:#51cf66,color:#fff

Важно учитывать, что открытое программное обеспечение является фундаментом всего проприетарного ПО. Это касается в том числе frontier-моделей, которые в конечном счёте тоже являются программными продуктами.

Кроме того, проекты с открытым исходным кодом с большей вероятностью сосредоточатся на просоциальных применениях ИИ и в меньшей степени будут подвержены влиянию финансовых и коммерческих стимулов, чем промышленные разработчики ИИ.

5. «Открытый ИИ не нужен: закрытые API достаточны»

Пожалуй, самый лукавый аргумент — что, мол, зачем открытые модели, если есть удобные API от OpenAI, Anthropic и Google?

Да, frontier-модели продолжают расти в размерах и стоимости — эта гонка вооружений, вероятно, останется уделом гигантов. Но открытый ИИ не обязан соответствовать их масштабу, чтобы быть полезным. Большая часть того, что нужно миру, вероятно, не требует абсолютного фронтира.

Проприетарный ИИ не нуждается в защите, тогда как открытый ИИ не имеет такого защитника и о нём проще всего забыть. Они просто не должны быть единственным вариантом.

💡 Практический аргумент
Представьте больницу в развивающейся стране, которая хочет внедрить ИИ для диагностики. Или независимого исследователя, которому нужна языковая модель для изучения редкого диалекта. Для них закрытые API означают: платите постоянно, работайте через серверы третьих стран и принимайте условия использования крупной корпорации. Открытый ИИ — это суверенитет.

Зависимость от единственного вендора — это не безопасность. Это уязвимость. Когда OpenAI меняет цены, условия использования или прекращает поддержку модели — все, кто построил бизнес на их API, оказываются в заложниках.

Что реально нужно: регулирование, а не закрытость

Проблемы безопасности ИИ реальны — но решение не в монополизации. Дискуссия вокруг открытых AI-моделей остаётся острой в сфере управления ИИ, особенно по мере роста их мощности. Потенциальные угрозы безопасности, связанные с публикацией этих моделей, остаются центральным вопросом дебатов среди исследователей и политиков.

Баланс между наступательными и оборонительными возможностями в открытом ИИ по-прежнему остаётся спорным: не ясно, увеличат ли открытые модели безопасность или риск злоупотреблений.

Но ответ на эту неопределённость — это не закрытость, а умное регулирование:

  • Обязательный аудит моделей выше определённого порога возможностей
  • Прозрачность данных обучения и методологии
  • Стандарты безопасности для развёртывания в критических областях
  • Международное сотрудничество вместо «гонки вооружений» закрытых систем
💡 Ключевой принцип
Прозрачность и безопасность — не антонимы. Открытый код позволяет тысячам независимых исследователей находить уязвимости быстрее, чем закрытая команда. Именно так работает вся современная кибербезопасность.

Заключение: чьи интересы защищают эти аргументы?

Когда крупные AI-компании говорят об «опасности открытого ИИ», стоит задать простой вопрос: кому выгодно сохранение закрытости?

Аргументы против открытого ИИ не выдерживают логической проверки — они рассыпаются при столкновении с историческими прецедентами (Linux, криптография, интернет-протоколы), реальными данными о безопасности и элементарным анализом стимулов.

Да, frontier-модели становятся всё больше и дороже — эта гонка вооружений останется уделом гигантов. Но открытый ИИ не обязан соответствовать их масштабу, чтобы быть полезным. Большая часть того, что нужно миру, вероятно, не требует абсолютного фронтира. А там, где поддержание достоверной открытой альтернативы действительно требует серьёзных вычислений — это именно тот вид общественного блага, за который стоит платить.

Открытый ИИ — это не угроза безопасности. Это страховка от монополии, инструмент демократизации технологий и условие для настоящего научного прогресса. Аргументы против него плохи не потому, что их приводят глупые люди — а потому что они обслуживают чужие интересы, а не интересы общества.

Закрытость — это не безопасность. Это контроль. И разница между этими двумя вещами имеет значение.