OpenAI замедляет разработку моделей ради кибербезопасности
OpenAI впервые приостановила обучение своих моделей, обнаружив критический уровень киберспособностей в модели Astra. Разбираем трёхуровневую систему защиты и что это значит для будущего AI.
Когда мощь модели обгоняет безопасность
В августе 2026 года OpenAI сделала беспрецедентный шаг: компания публично объявила о временном замедлении масштабирования своих флагманских моделей. Причина — стремительный рост киберспособностей, который начал опережать существующие защитные механизмы. Это не просто технический апдейт, а принципиальный сигнал всей индустрии: безопасность должна опережать возможности, а не догонять их.
Катализаторами стали два события сразу: инцидент с взломом Hugging Face и предварительные данные о том, что модель Astra может достигнуть «критического» порога киберспособностей по внутренней системе OpenAI — Preparedness Framework. Вместе они придали дополнительную срочность работе по укреплению мониторинга, выравнивания (alignment) и защитных механизмов на всех этапах обучения.
Безопасность — не финишная линия, которую пересекают один раз. Это стандарт, который должен всегда опережать возможности модели.
Что такое Preparedness Framework и почему это важно
Preparedness Framework («Система готовности») была впервые опубликована OpenAI в декабре 2023 года — задолго до того, как модели приблизились к биологическим, химическим, кибербезопасным и связанным с самосовершенствованием ИИ уровням. Документ создавался как руководство: как распознать прогресс в появлении опасных возможностей и что компания должна делать при их возникновении.
Сейчас OpenAI находится в процессе переработки этого главного документа по безопасности, поскольку модели приближаются или уже достигают критических порогов, которые описывались в нём — большинство положений датируется 2023 годом.
Система делит опасные возможности на два уровня:
| Уровень | Описание | Требования |
|---|---|---|
| High («Высокий») | Модель способна существенно усилить существующие пути к серьёзному вреду | Защитные меры необходимы перед развёртыванием |
| Critical («Критический») | Модель способна самостоятельно разрабатывать zero-day эксплойты или проводить кибератаки без участия человека | Дополнительные меры требуются в процессе разработки; работа приостанавливается |
GPT-5.6 Sol и GPT-5.6 Cyber оцениваются на уровне «High» по Preparedness Framework, а не на более высоком уровне «Critical». Модели, классифицированные на уровне High, требуют мер защиты перед развёртыванием, тогда как классификация Critical запускает дополнительные защиты уже в ходе разработки.
Модель Astra: первый «критический» прецедент
Последние внутренние оценки модели Astra, проведённые за несколько дней, выявили значительный прогресс в агентном программировании и кибербезопасности. Эти результаты, подкреплённые экспертными оценками, привели к выводу: компания не может исключить наличие критических киберспособностей в соответствии с Preparedness Framework.
По этому документу модель достигает критического порога в сфере кибербезопасности, если она способна самостоятельно — без участия человека — обнаруживать и разрабатывать функциональные zero-day эксплойты (уязвимости «нулевого дня») любой степени серьёзности во многих защищённых реальных критических системах, либо разрабатывать и реализовывать сквозные стратегии кибератак против защищённых целей, получив лишь высокоуровневую задачу.
Это первый случай, когда OpenAI применила подобный ярлык к конкретной модели, и это немедленно повлекло меры по сдерживанию: более жёсткие меры безопасности, приостановку части внутренних работ по Astra и планы по привлечению государственных агентств и внешних организаций по безопасности для тестирования.
Трёхуровневая система защиты
Подход OpenAI к разработке более мощных моделей опирается на три взаимоусиливающих механизма защиты: Мониторинг (Monitoring) — обнаруживает тревожное поведение и позволяет реагировать на него; Выравнивание (Alignment) — снижает вероятность вредоносных или несанкционированных действий; Меры безопасности (Security measures) — ограничивают то, к чему ИИ-системы могут получить доступ или что могут затронуть.
graph TD
A[Разработка модели] --> B[Мониторинг\nМониторинг поведения]
A --> C[Выравнивание\nAlignment]
A --> D[Безопасность\nSecurity]
B --> E{Обнаружена угроза?}
C --> E
D --> E
E -->|Да| F[Приостановка / Аудит]
E -->|Нет| G[Продолжение разработки]
F --> H[Усиление защиты]
H --> A
В будущем OpenAI ожидает, что сами модели будут выполнять бо́льшую часть работы по безопасности — в том числе защищать от других моделей. Это позволит всем трём механизмам масштабироваться вместе с ростом возможностей моделей, что компания считает ключевым требованием.
Мониторинг: «цепочка мыслей» под наблюдением
Универсальный мониторинг на предмет рискованных действий и потенциального «разъюстирования» реализован во всех агентных приложениях Astra, включая обучение и оценку. Эти системы мониторинга анализируют цепочку рассуждений (Chain of Thought) модели и могут инициировать реакцию безопасности для проверки или прерывания высокорисковой активности.
Безопасность: сетевая изоляция и шифрование
Новые меры защиты включают более строгие практики сетевой изоляции. По новой системе единственный взлом рабочей нагрузки или вспомогательного сервиса сам по себе не даёт несанкционированного доступа к интернету или другим внутренним сетям.
Выравнивание: пауза как инструмент
Желая взять необходимое время для соответствия новым стандартам, OpenAI временно замедлила темп масштабирования. В частности, был введён двухнедельный перерыв в обучении с подкреплением (Reinforcement Learning, RL) последних моделей, предназначенных для развёртывания, пока исследовательские среды проходили дополнительное укрепление и red teaming (тестирование на проникновение «красной командой»), а охват систем мониторинга расширялся.
Крупнейший запланированный запуск RL на фронтире остаётся на паузе, пока OpenAI проводит обучение и оценку в меньшем масштабе — чтобы изучить поведение модели, проверить защитные меры и собрать больше свидетельств выравнивания перед продвижением вперёд.
Daybreak: доверенный доступ к кибернетическим моделям
Программа Daybreak предусматривает два уровня доступа. Daybreak Blue использует GPT-5.6 Sol для оборонительных задач: анализ уязвимостей, безопасный код-ревью, анализ вредоносных программ, детектирование угроз, реагирование на инциденты и валидация патчей. Daybreak Red требует дополнительного одобрения и предоставляет доступ к GPT-5.6 Cyber для более деликатных задач: пентестинг, red teaming, валидация эксплойтов и контролируемые исследования уязвимостей.
OpenAI также применяет AI-assisted security research (исследования безопасности с помощью ИИ) в сфере открытого программного обеспечения. Работа в рамках Daybreak охватила 41 проект с открытым исходным кодом, выявила 858 проблем и сгенерировала 263 патча, из которых 143 были приняты мейнтейнерами проектов.
GPT-5.6 Cyber: мощь под контролем
Для измерения возможностей GPT-5.6 Cyber OpenAI создала внутреннюю метрику Advanced Cybersecurity Completion Rate (ACCR) — она измеряет, как часто модели отвечают на запросы, связанные с разработкой exploit-chain, обходом аутентификации, повышением привилегий и другими продвинутыми сценариями кибербезопасности. Тесты показывают, что GPT-5.6 Cyber выполняет 95,0% таких запросов — по сравнению с лишь 1,5% у GPT-5.6 Sol.
Модель также демонстрирует улучшения в обнаружении и точной оценке серьёзности новых zero-day уязвимостей — благодаря специализированному обучению, хотя в открытых задачах по поиску уязвимостей в репозиториях и разработке полноценного proof-of-concept она уступает GPT-5.6 Sol.
Внешние проверки и координация
OpenAI планирует сотрудничать с государственными органами и избранными организациями по безопасности AI, а также предоставлять сторонним аудиторам рекомендуемые средства управления безопасностью для проведения тестирования с повышенным риском.
«Важно начать создавать инструменты для координации такого рода регулирования темпа — между лабораториями и между странами», — заявил Якуб Пахоцки, главный учёный OpenAI, на брифинге для журналистов.
Что это значит для индустрии
Прецедент OpenAI важен не только как корпоративное решение — он задаёт ориентир для всей отрасли. Компания впервые публично применила собственный Preparedness Framework на практике: остановила масштабирование, провела аудит и прозрачно сообщила об этом.
По словам Пахоцкого, тот факт, что Astra достигла критического порога кибербезопасности, свидетельствует: от новых мощных моделей следует ожидать «совершенно беспрецедентных действий в реальном мире». «По мере обучения всё более мощных моделей мы хотим быть полностью уверены, что понимаем диапазон их возможностей, умеем их измерять и что они отвечают всё более высоким стандартам выравнивания».
OpenAI заявляет, что хочет, чтобы продвинутые модели с кибервозможностями помогали защитникам обнаруживать и устранять уязвимости раньше, чем злоумышленники смогут ими воспользоваться — при сохранении ответственного подхода к развёртыванию всё более мощных AI-систем.
Итог
Остановка на двухнедельный перерыв в обучении и заморозка крупнейшего RL-запуска — не признак слабости, а демонстрация зрелости. OpenAI показывает, что внутренние правила безопасности работают на практике, а не только на бумаге. В мире, где AI-модели начинают самостоятельно находить уязвимости в критических системах, такой подход — не роскошь, а необходимость.