Что случилось и почему это важно

24 марта 2026 года OpenAI выпустила набор политик безопасности в формате промптов (prompt-based safety policies — готовые инструкции для системы модерации), призванных помочь разработчикам создавать возрастные ограничения и защитные механизмы для подростков. Эти политики, реализованные как готовые к использованию промпты, работают совместно с открытой моделью модерации GPT-OSS Safeguard и призваны устранить критический разрыв в экосистеме: перевести широкие принципы безопасности в чёткие, применимые на практике правила.

Этот шаг знаменует стратегический сдвиг — от обеспечения безопасности на уровне продукта к созданию инфраструктуры безопасности на уровне всей экосистемы, поскольку компания сталкивается с растущим юридическим давлением в связи с предполагаемым вредом, причинённым несовершеннолетним пользователям её AI-моделей.

⚠ Контекст: юридическое давление
По данным AI Expert Magazine, инициатива является частью более широкой программы защиты подростков, которая включает программу вознаграждения за обнаруженные уязвимости (Safety Bug Bounty Program) и функцию «Доверенный контакт» (Trusted Contact), и запущена на фоне не менее 14 судебных исков об ущербе, причинённом несовершеннолетним.

Проблема, которую решает инструмент

Одна из ключевых сложностей в AI-безопасности — разрыв между декларируемыми принципами и их реальной технической реализацией.

Классификаторы безопасности умеют обнаруживать вредоносный контент — но лишь при условии, что кто-то заранее чётко определил, что именно им является.

OpenAI прямо обозначила это в своём объявлении: «Хотя классификаторы безопасности, такие как GPT-OSS Safeguard, способны обнаруживать вредоносный контент, они зависят от чётких определений того, что представляет собой этот контент», — указывая на устойчивую проблему для разработчиков, пытающихся внедрить последовательные защитные механизмы.

По словам OpenAI, разработчики нередко с трудом переводят высокоуровневые цели безопасности в операционные системы, что может приводить к непоследовательному исполнению требований или избыточной фильтрации контента. Теперь разработчики могут подключать эти политики к своим системам, не создавая правила защиты подростков с нуля — процесс, в котором, по признанию OpenAI, даже опытные команды часто допускают ошибки.

Что охватывают политики безопасности

Политики, оформленные в виде промптов для модели gpt-oss-safeguard, охватывают шесть начальных зон риска: графическое насилие, откровенный сексуальный контент, вредоносные нарративы о теле и поведении, опасные виды деятельности и «челленджи», романтический или насильственный ролевой отыгрыш, а также товары и услуги с возрастными ограничениями.

Зона рискаОписаниеПримеры ситуаций
Графическое насилиеСцены жестокости и физического вредаДетальные описания травм, издевательств
Сексуальный контентЯвные материалы сексуального характераЭротика, NSFW-контент
Образ телаНарративы, пропагандирующие расстройства пищевого поведенияСоветы по экстремальным диетам, «про-ана»
Опасные действия«Вирусные» вызовы и рискованное поведениеОписание опасных челленджей из соцсетей
Ролевой отыгрышРомантические или агрессивные ролевые сценарииСимуляция отношений с AI, насильственные сцены
Товары 18+Алкоголь, табак, азартные игры, оружиеСоветы по приобретению запрещённых веществ

Разработчики могут загрузить политики с GitHub и адаптировать их под свои конкретные случаи использования — это снижает барьер для внедрения надёжных мер безопасности.

💡 Совет для разработчиков
Политики безопасности оформлены в виде промптов, что делает их легко совместимыми с другими моделями помимо gpt-oss-safeguard, хотя они, вероятно, наиболее эффективны в экосистеме OpenAI.

Как работает gpt-oss-safeguard

gpt-oss-safeguard — это open-weight (открытые веса) модели для задач классификации безопасности, доступные в двух размерах: gpt-oss-safeguard-120b и gpt-oss-safeguard-20b. Модели являются дообученными версиями открытых моделей gpt-oss и доступны под той же либеральной лицензией Apache 2.0, позволяющей свободно использовать, изменять и развёртывать их.

Модели gpt-oss-safeguard используют рассуждение для непосредственной интерпретации политики, предоставленной разработчиком, во время инференса — классифицируя сообщения пользователей, ответы модели и целые диалоги в соответствии с потребностями разработчика. Разработчик всегда сам решает, какую политику применять, поэтому ответы более релевантны и адаптированы под конкретный сценарий. Модель использует chain-of-thought (цепочку рассуждений), которую разработчик может изучить, чтобы понять, как модель приходит к своим решениям.


graph TD
    A[Политика разработчика\nнапример: запрет контента 18+] --> C[gpt-oss-safeguard]
    B[Контент пользователя\nсообщение или ответ AI] --> C
    C --> D[Chain-of-thought\nцепочка рассуждений]
    D --> E{Решение}
    E -->|Безопасно| F[✅ Контент разрешён]
    E -->|Небезопасно| G[🚫 Контент заблокирован]
    D --> H[Аудит-лог\nдля разработчика]

Вместо статических фильтров по ключевым словам gpt-oss-safeguard применяет цепочку рассуждений (chain-of-thought reasoning), создавая журнал аудита, который разработчики могут изучить, чтобы понять логику принятых решений о классификации.

Производительность модели

По внутренним оценкам OpenAI, модели safeguard и внутренний Safety Reasoner превосходят gpt-5-thinking и открытые модели gpt-oss по точности при работе с несколькими политиками одновременно. Особенно примечательно, что safeguard-модели обходят gpt-5-thinking, учитывая их значительно меньший размер.

Известные ограничения

⚠ Ограничения модели
Среди ключевых ограничений: специализированные классификаторы контента всё ещё превосходят safeguard-модели по точности; модели требуют больше вычислительных ресурсов по сравнению с лёгкими классификаторами, что особенно важно при необходимости масштабирования; наконец, возможны галлюцинации в цепочках рассуждений — убедительный вывод не всегда означает корректную логику рассуждения, особенно если политика была сформулирована слишком кратко.

Открытый код и партнёрство

OpenAI разработала политики в сотрудничестве с Common Sense Media — влиятельной организацией по защите детей в цифровой среде — и everyone.ai, консалтинговой компанией в области AI-безопасности.

Платформа была разработана с участием внешних экспертов, в том числе Common Sense Media и everyone.ai, чтобы лучше отразить специфику взаимодействия подростков с цифровой средой.

Компания опубликовала набор политик защиты подростков с открытым исходным кодом на GitHub в виде готовых промптов, фильтрующих вредоносный контент в приложениях, используемых несовершеннолетними.

Политики основаны на gpt-oss-safeguard — открытой модели безопасности, уже протестированной такими платформами, как ROOST, Discord и другими.

«Политики задают значимый минимальный уровень безопасности», который благодаря открытому исходному коду может быть адаптирован и улучшен любым разработчиком.

Более широкий контекст: хронология действий OpenAI

Этот релиз продолжает масштабную работу OpenAI по усилению защиты молодёжи, включая обновление руководящих принципов поведения моделей с учётом интересов пользователей до 18 лет, а также продуктовые функции — такие как родительский контроль и системы определения возраста.

Вот полная хронология действий OpenAI в сфере защиты подростков:

  • Ноябрь 2025 — выпуск Teen Safety Blueprint (Плана защиты подростков)
  • Декабрь 2025 — обновление Model Spec с добавлением U18 Principles (принципов для пользователей до 18 лет)
  • Январь 2026 — запуск системы предсказания возраста (age prediction)
  • Март 2026 — программа Safety Bug Bounty с наградами до $100 000
  • Май 2026 — запуск функции Trusted Contact (Доверенный контакт)

В августе 2026 года OpenAI запустила ChatGPT for Teens — специальный режим с усиленной защитой и инструментами для обучения для пользователей в возрасте от 13 до 17 лет.

ℹ ChatGPT for Teens
Режим ограничивает разговоры высокого риска — о самоповреждении, насилии, расстройствах пищевого поведения и откровенном контенте. В ряде случаев система уведомляет родителей, подключивших родительский контроль — каждое уведомление проходит проверку человеком и должно поступить в течение часа.

Практическое применение: как использовать в своём проекте

Если вы разрабатываете приложение, которым могут пользоваться подростки, вот базовый сценарий интеграции с gpt-oss-safeguard:

# Пример использования gpt-oss-safeguard с политикой защиты подростков
# Политики доступны на GitHub: github.com/openai/teen-safety-policies

import openai

# Загружаем готовую политику из репозитория OpenAI
with open("teen_safety_policy.txt", "r") as f:
    teen_policy = f.read()

# Контент для проверки
user_message = "Текст сообщения от пользователя"

# Запрос к модели gpt-oss-safeguard
response = openai.chat.completions.create(
    model="gpt-oss-safeguard-20b",  # или 120b для большей точности
    messages=[
        {
            "role": "system",
            "content": teen_policy  # политика безопасности
        },
        {
            "role": "user",
            "content": user_message  # контент на проверку
        }
    ]
)

# Модель вернёт: цепочку рассуждений + итоговое решение
result = response.choices[0].message.content
print(result)  # {"safe": false, "category": "graphic_violence", "reasoning": "..."}

Модель принимает два входных параметра одновременно — политику и контент для классификации согласно этой политике — и выдаёт заключение о том, куда относится данный контент, вместе с ходом рассуждений. Разработчики сами решают, как и стоит ли вообще использовать эти заключения в собственных пайплайнах безопасности.

Выводы

Основная сложность в AI-безопасности — перевод широких политических целей в конкретные, применимые правила. Разработчики нередко не могут точно определить, что именно представляет собой риск для подростков, что приводит к пробелам или избыточной фильтрации.

OpenAI даёт разработчикам готовый ответ на этот вопрос: не нужно изобретать велосипед — есть проверенный экспертами набор политик, который можно взять, адаптировать под свои задачи и подключить к системе модерации за считанные минуты.

💡 Где найти инструменты
Все политики безопасности для подростков доступны бесплатно на GitHub под лицензией Apache 2.0. Модель gpt-oss-safeguard (20B и 120B) размещена на Hugging Face. Safeguard-модели могут интерпретировать пользовательские политики безопасности прямо во время инференса, без переобучения — это практический open-source слой модерации, который любое GPT-OSS-приложение может интегрировать без лишних усилий.