OpenAI Safety Fellowship: как компания платит независимым учёным за безопасность ИИ

OpenAI объявила о запуске Safety Fellowship — пилотной программы для внешних исследователей, инженеров и специалистов-практиков, готовых заниматься фундаментальными вопросами безопасности и alignment (выравнивания — согласования поведения ИИ с человеческими ценностями) передовых AI-систем. Это не академическая награда и не грант на конкурс публикаций: программа задумана как полноценная оплачиваемая исследовательская позиция на стыке независимости и институциональной поддержки.

OpenAI объявила о приёме заявок на Safety Fellowship — новую программу для внешних исследователей, инженеров и практиков, желающих проводить строгие высокоэффективные исследования в области безопасности и выравнивания передовых AI-систем.

ℹ Ключевые даты программы
  • Дедлайн заявок: 3 мая 2026 года
  • Уведомление об отборе: до 25 июля 2026 года
  • Срок программы: 14 сентября 2026 — 5 февраля 2027

Что предлагает программа

Программа выплачивает $3 850 в неделю — более $200 000 в годовом исчислении, — а также обеспечивает участников вычислительными ресурсами примерно на $15 000 в месяц и наставничеством от исследователей OpenAI.

Участники тесно сотрудничают с менторами OpenAI и работают в рамках единого студенческого сообщества. Рабочее пространство доступно в Беркли (совместно с другими стипендиатами в Constellation), однако допускается и удалённый формат участия.

Это не просто грант на написание статьи. OpenAI формирует когорту независимых учёных, которые к концу программы должны выдать реальный результат: статью, бенчмарк или датасет.

Участники получают API-кредиты и вычислительные ресурсы, но не доступ к внутренним системам компании — программа позиционируется как независимое исследовательское финансирование, а не попытка восстановить расформированные внутренние команды.

Кто может подать заявку

Один из самых неожиданных аспектов программы — широкий профиль кандидатов. OpenAI явно уходит от академического снобизма.

Конкретные академические степени не требуются — компания заявила, что приоритет отдаётся исследовательским способностям, техническому суждению и способности доводить работу до результата.

«Учёная степень, предыдущий опыт в ML или публикации не обязательны. Успешные стипендиаты аналогичных программ имели опыт в физике, математике, информатике, кибербезопасности и других количественных областях».

Fellowship не ограничен специалистами по ИИ — OpenAI привлекает кандидатов из кибербезопасности, социальных наук и области взаимодействия человека с компьютером наравне с информатикой.

💡 Совет для кандидатов из России и СНГ
Программа открыта для исследователей со всего мира. Если у вас есть опыт в математике, кибербезопасности или социальных науках применительно к ИИ — диплом западного университета не является обязательным условием. Акцент делается на качестве исследовательского замысла и техническом суждении.

Семь приоритетных направлений исследований

Исследовательская повестка программы охватывает семь приоритетных областей: оценка безопасности (safety evaluation), этика, устойчивость (robustness), масштабируемые меры снижения рисков (scalable mitigations), методы обеспечения конфиденциальности в контексте безопасности, контроль над агентными системами (agentic oversight) и домены злоупотреблений высокой степени серьёзности.

Разберём каждое направление подробнее:

НаправлениеСуть задачи
Safety EvaluationМетоды тестирования и измерения безопасности моделей в разных сценариях использования
EthicsМоральные и социальные последствия разработки и развёртывания продвинутых AI-систем
RobustnessУстойчивость к сбоям, adversarial-атакам и непредвиденному поведению
Scalable MitigationsРешения по безопасности, способные масштабироваться вместе с ростом моделей
Privacy-Preserving MethodsСохранение конфиденциальности данных в рамках механизмов безопасности
Agentic OversightКонтроль над автономными многошаговыми AI-агентами
High-Severity MisuseПредотвращение использования ИИ для крайне опасных целей
⚠ Важно: ограниченный доступ к системам
Участники программы НЕ получают доступ к внутренним системам OpenAI, не могут напрямую аудировать процессы обучения моделей или влиять на производственные решения в режиме реального времени. Исследования ведутся независимо, на базе внешних инструментов и предоставленных API.

Что нужно создать по итогам

К концу программы в феврале 2027 года каждый стипендиат обязан представить существенный результат — научную статью, бенчмарк или датасет.

Это принципиальное отличие от обычных грантов: OpenAI ждёт не просто отчёта о проведённом исследовании, а артефакта, который сообщество сможет использовать — воспроизводимого бенчмарка, открытого датасета или публикации с рецензированием.

Как устроен процесс отбора и сама программа


graph TD
    A[Подача заявки\nдо 3 мая 2026] --> B[Рассмотрение OpenAI]
    B --> C[Уведомление об отборе\nдо 25 июля 2026]
    C --> D[Начало программы\n14 сентября 2026]
    D --> E[Исследовательская работа\nс менторами OpenAI]
    E --> F[Финальный результат:\nстатья / бенчмарк / датасет]
    F --> G[Завершение программы\n5 февраля 2027]

При отборе приоритет отдаётся исследовательским способностям, техническому суждению и умению доводить работу до конца — а не конкретным дипломам или регалиям.

Контекст: зачем это OpenAI?

Пояснение программы выглядит красиво само по себе, но важно понимать, в каком контексте она появилась.

Объявление о Fellowship появилось спустя несколько часов после публикации расследования Ронана Фэрроу в The New Yorker, согласно которому OpenAI расформировала команды по супералайнменту и готовности к AGI, а также исключила безопасность из перечня наиболее значимых видов деятельности в своих налоговых документах IRS.

Тем не менее важно понимать, что это часть более широкого отраслевого сдвига: такие компании, как Anthropic, Google, Microsoft и Meta, также инвестируют в стипендиальные программы и академические партнёрства, формируя растущую экосистему внешне финансируемых исследований AI-безопасности.

Акцент в области рисков смещается в сторону агентных угроз: по мере того как AI-системы становятся всё более автономными, проблемы безопасности переходят от вредоносных текстовых выводов к потенциально опасным действиям, которые могут совершать многошаговые агентные системы.

📝 Кто уже занимается этим в мире

Аналогичные программы существуют у других крупных игроков:

  • Anthropic — финансирует независимых исследователей интерпретируемости (interpretability)
  • Google DeepMind — партнёрства с университетами по alignment-исследованиям
  • Microsoft Research — программы по ответственному ИИ
  • OpenAI Safety Fellowship — первая полноценная внешняя стипендия от OpenAI

Почему это важно для исследовательского сообщества

По оценкам, программа ориентирована на независимых учёных и начинающих исследователей и может создать новые возможности для грантов и наставничества, способных ускорить работу по оценке безопасности, red teaming и исследованиям интерпретируемости с прямым применением к управлению моделями.

Для российских и постсоветских исследователей, которые традиционно сильны в математике, физике и теоретической информатике, это редкий шанс: программа не требует западных академических регалий и прямо указывает на ценность разнообразных дисциплинарных бэкграундов.

Alignment — одна из немногих областей, где математическое мышление и строгость доказательств ценятся не меньше, чем опыт промышленного ML.

Итог

OpenAI Safety Fellowship — это серьёзная и финансово весомая программа ($3 850/неделю + $15 000/месяц на вычисления), открытая для широкого круга специалистов без жёстких формальных требований. Полгода интенсивной работы, менторство от команды OpenAI и обязательный конкретный артефакт на выходе делают её одной из самых привлекательных возможностей в области AI safety на сегодняшний день.

Если вы занимаетесь безопасностью, математикой, кибербезопасностью или социальными науками применительно к ИИ — стоит внимательно изучить официальную страницу программы и подать заявку до закрытия следующего набора.