Sora 2 и безопасность: как OpenAI защищает пользователей

Безопасность как фундамент, а не надстройка

Создавая Sora 2 и приложение Sora, OpenAI изначально ставила безопасность во главу угла — ведь перед компанией стояли принципиально новые вызовы: мощная модель генерации видео плюс полноценная социальная платформа для совместного творчества.

Безопасность — это не список запретов поверх готового продукта, а архитектурное решение, заложенное ещё при проектировании.

Sora 2 и приложение Sora предлагают генерацию видео на уровне лучших мировых разработок, открывая при этом новый формат совместного творчества — и всё это с защитой, встроенной с самого начала.

Посмотрим, как именно устроена эта многоуровневая система.

1. Маркировка AI-контента: видимое и невидимое

Одна из главных угроз, связанных с генерацией реалистичных видео, — это дипфейки (deepfakes): ролики, созданные ИИ, которые могут вводить людей в заблуждение. OpenAI решает эту проблему двухуровневой системой провенанса (provenance — подтверждение происхождения контента).

Каждое видео, созданное в Sora, содержит как видимые, так и невидимые сигналы провенанса, а также встроенные метаданные стандарта C2PA.

Водяной знак Sora — это фактически два независимых слоя: видимый движущийся логотип, «вжжённый» в изображение, и невидимые метаданные провенанса, прикреплённые к файлу.

Многие видео также содержат видимый движущийся водяной знак с именем создателя, а внутренние инструменты обратного поиска по изображению и аудио позволяют отследить происхождение видео вплоть до конкретной сессии в Sora.

Важно понимать разницу между двумя слоями:

Инструмент может стереть движущийся логотип, не затронув невидимый слой — а именно его проверяют платформы при загрузке видео.

2. Защита личности и согласие на использование образа

Одна из самых острых этических проблем генеративного видео — несанкционированное использование чужой внешности. Sora 2 решает её через функцию Cameos (камео — короткое появление реального человека в ролике) и систему Characters (персонажи).

Функция Cameos требует, чтобы пользователь предоставил записанный видео- и аудиосэмпл для верификации личности, прежде чем его образ может быть использован в генерируемом контенте.

Согласно данным компании, пользователи могут решать, кто имеет право использовать их персонажей, отзывать этот доступ в любое время, а также просматривать, удалять или жаловаться на видео, в которых фигурируют их персонажи.

Пользователи могут загружать изображения людей для создания видео — но только после того, как подтвердят, что имеют согласие изображённых людей и право на загрузку этих материалов.

OpenAI также применяет дополнительные ограничения, направленные на то, чтобы исключить значительные изменения внешности человека, избежать компрометирующих сценариев и сохранить целостность идентификации персонажа.

Генерация видео из реальных фотографий людей подчиняется более строгим правилам, чем работа с персонажами Sora Characters. Изображения, на которых присутствуют дети или молодо выглядящие люди, проходят усиленную модерацию.

3. Защита подростков

Поскольку Sora — полноценная социальная платформа, вопрос безопасности несовершеннолетних стоит особенно остро.

Защита для молодых пользователей является отдельным блоком: аккаунты подростков ограничены в доступе к контенту для взрослых, возрастно-неприемлемые или вредоносные материалы фильтруются из их лент, а взрослые пользователи не могут инициировать личную переписку с подростками.

Родительский контроль в ChatGPT позволяет управлять разрешениями на переписку для подростков и выбирать неперсонализированную ленту в приложении Sora.

Для пользователей-подростков также действуют стандартные ограничения на непрерывную прокрутку ленты. OpenAI не уточняет конкретные пороговые значения, однако эта мера ставит Sora в один ряд с другими цифровыми платформами, внедрившими дизайнерские изменения для снижения компульсивного использования среди молодёжи.

4. Фильтрация вредного контента: слоёная защита

Sora использует многоуровневую систему модерации — как на этапе генерации, так и в социальной ленте. На этапе создания защитные механизмы блокируют небезопасный материал ещё до его производства — путём проверки запросов, сгенерированных кадров и аудиотранскриптов.

Запрещены: явный сексуальный контент, террористическая пропаганда и материалы, пропагандирующие самоповреждение.

Как именно работает система фильтрации на этапе создания?

graph TD
    A[Пользователь вводит запрос] --> B{Проверка текстового промпта}
    B -- Нарушение --> C[Блокировка. Запрос отклонён]
    B -- Чисто --> D[Генерация видео]
    D --> E{Проверка кадров видео}
    E -- Нарушение --> F[Блокировка. Видео не публикуется]
    E -- Чисто --> G{Проверка аудиотранскрипта}
    G -- Нарушение --> H[Блокировка. Аудио удалено]
    G -- Чисто --> I[Видео публикуется с водяным знаком]

Производственный стек безопасности — сканирование видеокадров, субтитров и аудиотранскриптов — тестировался по двум ключевым метрикам: not_unsafe (насколько эффективно блокируется небезопасный контент) и not_overrefuse (насколько хорошо система избегает ложных срабатываний на допустимый контент).

Это принципиально важный баланс: слишком жёсткие фильтры убивают творческую свободу, слишком мягкие — открывают дорогу злоупотреблениям.

5. Безопасность аудио

Sora 2 — это не только видео, но и синхронизированный звук: диалоги, звуковые эффекты, закадровый голос. Это порождает отдельный класс угроз — клонирование голоса и имитация реальных людей.

Аудиогенерация рассматривается отдельно: транскрипты сгенерированной речи автоматически сканируются на предмет нарушений политики, а запросы, направленные на имитацию живых исполнителей или существующих произведений, блокируются.

6. Red Teaming: проверка перед запуском

До того как Sora 2 стала доступна широкой аудитории, модель прошла через интенсивное red teaming — процедуру тестирования безопасности, при которой команда специалистов намеренно пытается обойти защитные механизмы.

Red teaming предполагает работу экспертов из разных областей — от исследователей дезинформации до судебных художников — которые пытаются обойти защитные механизмы модели.

Выявляя уязвимости на ранней стадии, OpenAI дополнительно обучает модель с использованием RLHF (Reinforcement Learning from Human Feedback — обучение с подкреплением на основе обратной связи от людей), благодаря чему модель учится отказывать в выполнении вредоносных запросов на уровне своей природы, а не только на уровне внешних фильтров.

Постскриптум: история с закрытием

Примечательно, что статья OpenAI «Creating with Sora Safely» была опубликована 23 марта 2026 года — а уже на следующий день OpenAI объявила о полном закрытии Sora.

По состоянию на 26 апреля 2026 года продукт Sora больше недоступен.

Из продукта были убраны: standalone-приложение Sora, API Sora и функции генерации видео внутри ChatGPT. Сохранились: исследовательская команда Sora, продолжающая работу над «симуляцией мира для развития робототехники», а также базовая модель Sora 2, по-прежнему доступная подписчикам ChatGPT Plus.

Эта история — показательный пример противоречия, с которым сталкивается вся индустрия: внутри OpenAI выход продукта разжёг давнюю дискуссию о том, как найти баланс между безопасностью и творческой свободой.

Итог: пять принципов безопасного AI-видео

Опыт Sora 2 формулирует несколько универсальных принципов, актуальных для любой платформы генерации видео:

Даже если конкретный продукт прекращает работу, подходы и стандарты, отработанные на нём, становятся частью индустриальной нормы. Именно так движется вперёд этика AI.