OpenAI объявляет войну AI-угрозам: что такое Safety Bug Bounty

OpenAI расширяет свои усилия в области безопасности с помощью новой программы, специально направленной на выявление рисков злоупотребления ИИ и угроз безопасности во всём своём портфеле продуктов. Программа Safety Bug Bounty была анонсирована 25 марта 2026 года и размещена на платформе Bugcrowd — она специально нацелена на злоупотребления ИИ и риски безопасности в агентных продуктах.

Цель программы — не поиск классических багов в коде, а выявление угроз нового поколения: когда сам ИИ-агент становится вектором атаки.

Программа Safety Bug Bounty дополняет существующую программу безопасности и принимает отчёты о проблемах, которые могут привести к реальному ущербу, даже если они не представляют традиционной уязвимости в системе безопасности.

ℹ Что такое Bug Bounty?
Bug Bounty (программа вознаграждения за обнаружение ошибок) — это официальный механизм, при котором компания приглашает независимых исследователей и этичных хакеров находить уязвимости в своих продуктах и платит за каждую подтверждённую находку. OpenAI проводит такую программу через платформу Bugcrowd.

Чем Safety Bug Bounty отличается от обычной программы безопасности

В отличие от существующей программы безопасности, охватывающей традиционные уязвимости вроде обхода аутентификации и инъекций, новая программа сосредоточена на специфических для ИИ рисках: prompt injection, утечке данных через агентов и вредоносных автономных действиях.

OpenAI запустила Safety Bug Bounty с годовым пулом в $1 миллион. Это принципиально новый подход: классическая программа безопасности искала дыры в инфраструктуре и API, тогда как Safety Bug Bounty фокусируется на поведении самих ИИ-систем.

ПараметрSecurity Bug BountySafety Bug Bounty
ЗапускАпрель 2023Март 2026
ПлатформаBugcrowdBugcrowd
ФокусИнфраструктура, APIИИ-агенты, злоупотребления
Мин. выплата$200$250
Макс. выплата$100 000$100 000
Годовой пул—$1 000 000

Какие уязвимости попадают в прицел

С момента запуска в апреле 2023 года предыдущая программа вознаградила 409 уязвимостей в продуктах OpenAI. Теперь с Safety Bug Bounty компания хочет стимулировать раскрытие проблем, создающих «значимые риски злоупотреблений и безопасности».

Программа охватывает несколько ключевых категорий AI-специфичных угроз:

1. Агентные риски (Agentic Risks), включая MCP

Эта категория охватывает атаки типа «prompt injection» (внедрение вредоносных инструкций) третьей стороной и сценарии утечки данных, когда текст, контролируемый злоумышленником, может надёжно перехватить управление агентом жертвы — включая Browser, ChatGPT Agent и аналогичные агентные продукты — и заставить его совершить вредоносные действия или слить конфиденциальные данные пользователя.

В области агентных инструментов, включая MCP (Model Context Protocol — протокол взаимодействия модели с внешними инструментами), в прицел попадают риски злоупотреблений в продуктах, выполняющих действия от имени пользователя или получающих доступ к данным пользователя. Это включает Atlas Browser, Codex, Operator, Connectors и другие агентные инструменты ChatGPT.

⚠ Что такое prompt injection?
Prompt injection (внедрение инструкций) — тип атаки, при которой злоумышленник встраивает скрытые команды в текст, обрабатываемый ИИ-агентом. Например, вредоносный текст на веб-странице может заставить агента, просматривающего её, передать личные данные пользователя на сторонний сервер.

2. Проприетарная информация OpenAI

Ещё одна категория охватывает «проприетарную информацию OpenAI», включая генерации модели, раскрывающие внутренние рассуждения или конфиденциальные данные компании.

3. Целостность аккаунтов и платформы

В прицел попадают уязвимости, компрометирующие целостность аккаунтов и платформы: обход средств контроля, манипулирование сигналами доверия или несанкционированный доступ к функциям или данным.

4. Масштабные вредоносные действия

Отчёты об агентных продуктах, выполняющих запрещённые или потенциально вредоносные действия в масштабе, также входят в область применения программы.

Что НЕ попадает в программу

📝 Примеры неподходящих находок

Программа не вознаграждает за:

  • Простые «джейлбрейки» (jailbreak) без доказанного реального вреда
  • Принудить модель использовать грубые слова
  • Получить от модели общедоступную информацию, легко найти в поиске
  • Нарушения политики контента без конкретных векторов атаки

Простые джейлбрейки явно выходят за рамки программы: общие обходы политики контента без доказуемого влияния на безопасность не квалифицируются. Заставить модель использовать грубые выражения или вернуть легко находимую информацию не считается уязвимостью безопасности в рамках этой программы. Планка установлена на уровне потенциального реального вреда с конкретными и дискретными шагами по устранению.

Схема работы программы


graph TD
    A[Исследователь находит уязвимость] --> B{Входит в область программы?}
    B -- Да --> C[Подача отчёта через Bugcrowd]
    B -- Нет --> D[Security Bug Bounty или отклонение]
    C --> E[Триаж командой безопасности OpenAI]
    E --> F{Воспроизводится ≥50% случаев?}
    F -- Да --> G[Оценка по уровню критичности P1–P4]
    F -- Нет --> H[Отклонение или доработка]
    G --> I[Выплата вознаграждения]
    I --> J[P1: $5 500–$7 500]
    I --> K[P2: $2 500–$3 500]
    I --> L[P3: $750–$1 500]
    I --> M[P4: $250–$500]
    G --> N[Исключительные находки]
    N --> O[До $100 000]

Система выплат: сколько можно заработать

Заявки должны демонстрировать воспроизводимый эффект, а вознаграждения зависят от серьёзности находки — максимальные выплаты достигают $100 000.

Для категории агентных инструментов, включая MCP, шкала выплат выглядит следующим образом: уровень P1 — от $5 500 до $7 500, P2 — от $2 500 до $3 500, P3 — от $750 до $1 500, P4 — от $250 до $500.

Годовой пул программы составляет $1 миллион. При этом итоговые решения о суммах вознаграждений остаются за OpenAI, особенно когда речь идёт о вопросах безопасности.

💡 Ключевое требование к отчётам
Любая заявка должна воспроизводиться не менее чем в 50% случаев. Если уязвимость нестабильна и срабатывает случайно — она, скорее всего, не пройдёт проверку. Позаботьтесь о чёткой документации шагов воспроизведения.

Правила участия: что важно знать

Тестирование уязвимостей не должно создавать риска ущерба реальным аккаунтам или их компрометации. Например, текст с prompt injection не должен размещаться на публичных поверхностях, доступных для обнаружения реальными пользователями или их агентами.

Участники программы могут подавать свои находки через специальную платформу. Затем отчёты проходят проверку и сортировку командами безопасности и AI-безопасности OpenAI.

Исследователи, выявившие уязвимости, приводящие к прямому вреду для пользователей, при наличии конкретных шагов по устранению могут рассчитывать на вознаграждение в индивидуальном порядке.

Контекст: почему это важно именно сейчас

ИИ-агенты больше не являются экспериментальным курьёзом. Они просматривают интернет, выполняют код, управляют файлами и совершают автономные действия от имени пользователей.

Высококачественные уязвимости — это уже не только «модель сказала что-то не то». Угрозы становятся принципиально иного рода. Когда ИИ-агент получает доступ к электронной почте, календарю, файловой системе или банковским сервисам — цена ошибки или злонамеренного перехвата управления становится очень высокой.

Каждая крупная лаборатория теперь запускает специализированную программу Bug Bounty для ИИ: xAI (Grok), OpenAI, Anthropic, Google и Microsoft — все платят за уязвимости, специфичные для ИИ, в 2026 году.

Индустрия признаёт: защита ИИ-систем — это отдельная дисциплина, требующая специализированных исследований и отдельного финансирования.

Как принять участие

Заинтересованные исследователи могут подать заявку на участие в Safety Bug Bounty через специальный портал OpenAI. Компания подчёркивает свою приверженность сотрудничеству с сообществом специалистов по безопасности для создания более защищённой экосистемы ИИ.

Подать заявку можно на платформе Bugcrowd: bugcrowd.com/openai-safety

💡 С чего начать начинающему исследователю?

Если вы новичок в теме AI Bug Bounty:

  1. Изучите документацию по агентным продуктам OpenAI (ChatGPT Agent, Operator, Browser)
  2. Познакомьтесь с концепцией prompt injection через публичные материалы
  3. Начните с тестирования в своей собственной изолированной среде
  4. Убедитесь, что нашли воспроизводимый баг (≥50% воспроизводимость)
  5. Оформите отчёт с чёткими шагами воспроизведения и доказательством вреда

Итог

OpenAI Safety Bug Bounty — это признание того, что угрозы в мире ИИ принципиально отличаются от классических киберуязвимостей. Когда агент сам является инструментом, атака может разворачиваться через данные, которые он обрабатывает, а не через код, который он исполняет.

Программа стала первой крупной инициативой, специально направленной на краудсорсинг обнаружения уязвимостей безопасности в системах искусственного интеллекта, а не в традиционном программном обеспечении. Для русскоязычных специалистов по информационной безопасности — это открывающаяся ниша с реальными вознаграждениями и возможностью внести вклад в безопасность технологий, которыми пользуются миллионы людей.