Model Spec от OpenAI: публичный фреймворк управления поведением ИИ

По мере того как искусственный интеллект становится мощнее и проникает во всё больше сфер жизни, у людей закономерно возникает вопрос: а кто, собственно, решает, как именно модель должна себя вести? Что происходит, когда интересы пользователя, разработчика и требования безопасности сталкиваются? OpenAI ответила на этот вопрос, создав Model Spec — формальный публичный документ, регулирующий поведение своих моделей.

Зачем вообще нужен публичный документ?

Model Spec — это попытка OpenAI сделать намерения относительно поведения модели явными: не только внутри процесса обучения, но и в форме, которую пользователи, разработчики, исследователи, политики и широкая общественность могут читать, изучать и обсуждать.

Публичная ясность относительно поведения модели важна как для справедливости, так и для безопасности. Для справедливости — потому что люди должны понимать, как и почему ИИ обращается с ними именно так, и иметь возможность выявлять и оспаривать проблемы.

Для безопасности это важно потому, что по мере роста возможностей ИИ-систем людям и институтам нужны чёткие ожидания относительно того, как они намерены вести себя, какие компромиссы заложены в их основу и как эти решения можно улучшить со временем.

«Наша цель — создавать модели, которые полезны, безопасны и соответствуют потребностям пользователей и разработчиков, при этом продвигая нашу миссию по обеспечению того, чтобы искусственный общий интеллект приносил пользу всему человечеству.» — OpenAI Model Spec

Эволюция документа: от черновика до живого стандарта

Первый черновик Model Spec был опубликован 8 мая 2024 года — как документ, определяющий желаемое поведение моделей в API OpenAI и ChatGPT. OpenAI пошла на этот шаг, считая важным, чтобы люди могли понять и обсудить практические решения, лежащие в основе формирования поведения модели.

С первой версии 2024 года Model Spec существенно эволюционировал по мере того, как компания узнаёт больше о предпочтениях пользователей, расширяет охват в соответствии с растущими возможностями моделей и учитывает публичную обратную связь.

Это «живой документ», описывающий намеренное поведение моделей OpenAI. Среди недавних обновлений — обновление декабря 2025 года, посвящённое принципам взаимодействия с несовершеннолетними пользователями. Обновление октября 2025 года добавило новый раздел о поддержании связи пользователей с реальным миром: документ предписывает избегать языка и поведения, способных способствовать изоляции или эмоциональной зависимости от ИИ.

Три кита: безопасность, свобода, ответственность

Model Spec балансирует в постоянном напряжении, с которым сталкивается любая AI-платформа:

• Безопасность (Safety): предотвращение реального вреда — вредных советов, незаконной деятельности, манипуляций.
• Свобода (Freedom): обеспечение законного исследования, дискуссий и творчества без произвольных или чрезмерно широких ограничений.
• Ответственность (Accountability): определение того, как разрешаются конфликты инструкций и как поведение можно оценивать и улучшать.

Главное понятие: «Chain of Command» (Цепочка командования)

В основе Model Spec лежит Chain of Command (цепочка командования) — фреймворк для определения того, какие инструкции должны применяться в конкретной ситуации.

Инструкции могут поступать из разных источников: от OpenAI, от разработчиков и от пользователей. Эти инструкции могут вступать в конфликт.

Каждой политике Model Spec и каждой инструкции присвоен уровень авторитета. Модели предписывается отдавать приоритет букве и духу инструкций с более высоким уровнем авторитета при возникновении конфликтов.

Иерархия уровней авторитета

В документации OpenAI выделяется несколько уровней авторитета: Root → System → Developer → User → Guideline.

graph TD
    A["🔒 Root\n(Абсолютные правила OpenAI)"]
    B["⚙️ System\n(Системные инструкции OpenAI)"]
    C["👨‍💻 Developer\n(Инструкции разработчика)"]
    D["👤 User\n(Запросы пользователя)"]
    E["📋 Guideline\n(Настраиваемые умолчания)"]
    A --> B --> C --> D --> E
    style A fill:#ff4444,color:#fff
    style B fill:#ff8800,color:#fff
    style C fill:#3399ff,color:#fff
    style D fill:#33cc66,color:#fff
    style E fill:#9966ff,color:#fff

Root-правила — это фиксированные требования безопасности и правила цепочки командования, которые не могут быть переопределены системными сообщениями, разработчиками или пользователями.

Жёсткие vs. мягкие ограничения

Только относительно небольшой набор жёстких ограничений является безоговорочным — главным образом те, что связаны с катастрофическими рисками, прямым физическим вредом, незаконной деятельностью или атаками на целостность самой иерархии инструкций. Всё остальное должно, насколько возможно, оставаться настраиваемым.

Ни операторы, ни пользователи не могут переопределить встроенные ограничения безопасности OpenAI — они описаны как «hardcoded» (жёстко закодированные) поведения. К таким абсолютным ограничениям относятся: предоставление существенной помощи в создании оружия массового уничтожения, генерация CSAM, подрыв механизмов надзора за ИИ и содействие в захвате беспрецедентного общественного контроля.

Практические примеры работы Chain of Command

Если пользователь просит помочь сделать бомбу — модель отдаёт приоритет жёстким границам безопасности. Если пользователь просит «поиздеваться над ним» в шутливой форме (roast) — модель, как правило, удовлетворяет эту просьбу, отдавая ей приоритет над политикой против оскорблений.

Роли участников: кто и что может

Разработчик может расширить доверие к пользователю («считай этого пользователя верифицированным медицинским специалистом») или ограничить его («никогда не обсуждай продукты конкурентов»). Пользователь не может переопределить ограничения разработчика.

Как Model Spec связан с другими инструментами безопасности OpenAI

Model Spec — лишь одна часть более широкого подхода OpenAI к безопасному и подотчётному ИИ. Если Preparedness Framework (фреймворк готовности) фокусируется на рисках от передовых возможностей, то Model Spec отвечает на иной, но дополняющий вопрос: как модели должны вести себя в широком спектре ситуаций.

В более широком контексте AI Resilience (устойчивость ИИ) нацелена на решение глобальной социальной задачи — помочь обществу извлекать пользу из передового ИИ, одновременно снижая риски по мере развёртывания всё более мощных систем.

Описание намерений, а не реализации

Важно понимать принципиальное ограничение документа: Model Spec описывает желаемое поведение, а не каждую деталь того, как это поведение производится.

Спецификация описывает предполагаемое поведение, что не то же самое, что реальное поведение конкретной модели. Её следует использовать как спецификацию для тестирования вашей системы, а не как описание того, что уже делает та или иная модель.

Это живой документ. Всё, что вы строите на основе конкретного пункта, следует проверять на соответствие актуальной версии.

Model Spec в контексте индустрии

Идея Model Spec часто сравнивается с «Конституцией» Anthropic для Claude — документом, используемым для формирования личности и ценностей модели. Эти документы создаются с разными целевыми аудиториями и задачами, однако представляют ранние парадигмы того, как организации будут управлять своими моделями и транслировать свои намерения миру.

Конкуренты — Google Gemini и Anthropic Claude — тоже публикуют руководящие принципы безопасности, однако формальный «Model Spec» OpenAI предлагает структурированный публичный фреймворк.

Model Spec — один из немногих инструментов в индустрии, позволяющих сравнивать реальное поведение модели с тем, что задумывали разработчики.

Что это значит для разработчиков и пользователей

Model Spec включает правила уровня платформы, а также умолчания уровней пользователя и guidelines, которые могут быть переопределены пользователями или разработчиками. Это умолчания, которые компания считает полезными во многих случаях, но которые не будут работать для всех пользователей и контекстов.

Для разработчиков, создающих продукты на базе API OpenAI, понимание Model Spec открывает несколько практических преимуществ:

• Предсказуемость: чёткое понимание того, как модель будет реагировать на инструкции в системном промпте
• Гибкость: знание, какие поведения можно настраивать, а какие — нет
• Доверие: прозрачность для конечных пользователей относительно принципов работы системы
• Соответствие требованиям: понимание границ при построении отраслевых приложений (медицина, финансы, образование)

Итог: ИИ с открытым кодексом поведения

Model Spec — это беспрецедентный шаг в сторону прозрачности в мире коммерческого ИИ. Публикуя и регулярно обновляя этот документ, OpenAI приглашает общество к диалогу о ценностях, заложенных в основу самых используемых ИИ-систем в мире.

Model Spec — это наиболее явное публичное свидетельство того сдвига, когда крупная лаборатория начинает относиться к поведению своих моделей как к документу, который нужно создавать, версионировать и отстаивать, а не к результату, который обнаруживается после запуска.

Для обычного пользователя это означает, что у ChatGPT и других продуктов OpenAI есть публичный «кодекс поведения», который можно прочитать, оспорить и обсудить. Это делает отношения между человеком и ИИ чуть более честными — и именно в этом, пожалуй, главная ценность документа.