ИИ и подростки: баланс между свободой и защитой

ИИ может стать мощным инструментом для молодого поколения: помочь разобраться в сложной теме, попрактиковаться в иностранном языке, подготовиться к собеседованию, воплотить творческую идею или освоить новый навык. Но вместе с возможностями появляются и серьёзные риски — особенно когда речь идёт о несовершеннолетних пользователях.

Рост интереса к теме безопасности подростков в AI-среде произошёл на фоне трагических случаев: индустрия оказалась под пристальным вниманием законодателей, педагогов и правозащитников после того, как несколько подростков предположительно совершили суицид после длительного общения с чат-ботами.

«Безопасность подростков для нас важнее, чем их приватность и свобода — это новая и мощная технология, и мы считаем, что несовершеннолетние нуждаются в серьёзной защите», — написал в своём блоге генеральный директор OpenAI Сэм Альтман.

⚠ Масштаб проблемы
Согласно внутренней статистике OpenAI за октябрь 2025 года, около 560 000 пользователей в неделю демонстрировали признаки психоза или мании, более 1,2 миллиона обсуждали тему суицида, и примерно столько же проявляли повышенную эмоциональную привязанность к чат-боту.

Teen Safety Blueprint: дорожная карта безопасности

OpenAI представила Teen Safety Blueprint (Схему безопасности для подростков) — дорожную карту ответственного создания AI-инструментов и практическую отправную точку для политиков, разрабатывающих стандарты использования ИИ подростками. Молодые люди заслуживают технологий, которые расширяют возможности и защищают их благополучие. Blueprint определяет, как ИИ должен работать для тинейджеров: возрастной дизайн, значимые защитные меры продукта и постоянные исследования.

OpenAI не ждёт, пока законодательство догонит технологии — компания уже внедряет этот фреймворк в свои продукты и проактивно усиливает защиту молодых пользователей.

Четыре ключевых принципа работы с подростками

Подход OpenAI к безопасности несовершеннолетних строится на четырёх принципах:

  • Безопасность прежде всего — даже если другие интересы пользователя, например «максимальная интеллектуальная свобода», вступают в противоречие с требованиями безопасности;
  • Поддержка реального мира — направлять подростков к семье, друзьям и местным специалистам по вопросам благополучия;
  • Общение как с подростком — с теплотой и уважением, без снисхождения и без обращения как со взрослым;
  • Прозрачность — объяснять, что ИИ может и чего не может, и напоминать, что он не является человеком.

Родительский контроль (Parental Controls): что это и как работает

Parental Controls (Родительский контроль) стали доступны всем пользователям ChatGPT и позволяют родителям связать свой аккаунт с аккаунтом ребёнка-подростка, настраивая параметры для безопасного возрастного опыта.

Родители могут привязать свой аккаунт ChatGPT к аккаунту ребёнка и установить ряд предпочтений безопасности. Настройка является добровольной и требует согласия обеих сторон — это сделано намеренно, чтобы сохранить автономию и конфиденциальность подростка.

Что именно могут настроить родители

ФункцияОписание
Тихие часы (Quiet Hours)Задать время, когда ChatGPT недоступен для подростка
Голосовой режимОтключить возможность использования Voice Mode
Память (Memory)Запретить сохранение воспоминаний об общении
Генерация изображенийУбрать возможность создавать и редактировать картинки
Обучение моделиОтказаться от использования переписки для обучения ИИ
Режим учёбы (Study Mode)Включить режим по умолчанию при каждом новом чате

Родители, связавшие аккаунты, могут также включить Study Mode (Режим учёбы) прямо из панели родительского контроля. Когда он активирован, он включается по умолчанию при каждом новом чате, давая семьям дополнительный способ управлять тем, как ChatGPT используется для учёбы.

💡 Как подключить родительский контроль
  1. Откройте ChatGPT и перейдите в иконку профиля → Настройки → Родительский контроль
  2. Отправьте приглашение на аккаунт подростка по электронной почте
  3. После того как подросток примет приглашение, выберите его профиль в разделе «Члены семьи»
  4. Настройте параметры: тихие часы, фильтры контента, ограничения функций
  5. Выберите способ получения уведомлений: email, SMS или push-уведомление

Система оповещений и реагирование на кризисные ситуации

OpenAI понимает, что некоторые подростки обращаются к ChatGPT в трудные моменты, поэтому создала систему уведомлений, которая помогает родителям узнать, если что-то серьёзно не так. В ChatGPT встроены механизмы, которые помогают ему распознавать потенциальные признаки того, что подросток может думать о причинении вреда себе.

Если подросток напишет что-то настораживающее, сообщение автоматически помечается и проверяется модератором-человеком. При подтверждении опасения OpenAI пытается связаться с родителем по всем доступным каналам в течение нескольких часов. Уведомление не содержит точных слов ребёнка — только информацию о том, что он мог упомянуть причинение вреда себе или суицидальные мысли, а также рекомендуемые стратегии разговора от экспертов по психическому здоровью.

В июле 2026 года OpenAI расширила родительские уведомления, добавив дополнительные ситуации, требующие срочной поддержки взрослых, в том числе оповещение родителей о блокировке аккаунта подростка за проявление насилия.

Эти уведомления специально ограничены по сфере применения и не распространяются на такой контент, как художественное творчество, игры, обсуждение новостей или абстрактные вопросы.

ℹ Конфиденциальность подростка
Подростки могут видеть, что их аккаунт связан с родительским, и в любой момент могут разорвать эту связь — это отключит родительские уведомления и ограничения. OpenAI делится только той информацией, которая необходима для защиты безопасности подростка.

Система предсказания возраста (Age Prediction)

OpenAI разрабатывает систему предсказания возраста (age-prediction system), которая оценивает возраст на основе того, как люди используют ChatGPT. При наличии сомнений компания перестрахуется и по умолчанию применит режим «до 18 лет».

Вместо того чтобы требовать от всех пользователей загружать удостоверение личности, OpenAI внедряет невидимую систему предсказания возраста, которая использует поведенческие сигналы — стиль письма, выбор тем, время активности и метаданные аккаунта — для определения вероятности того, что пользователю нет 18 лет.

Когда система определяет, что пользователь не достиг 18 лет, он автоматически перенаправляется на версию ChatGPT с возрастными ограничениями: блокировкой откровенного сексуального контента и, в редких случаях острого кризиса, возможным привлечением правоохранительных органов для обеспечения безопасности.


graph TD
    A[Пользователь входит в ChatGPT] --> B{Возраст определён?}
    B -- Да, 18+ --> C[Стандартный взрослый режим]
    B -- Да, до 18 --> D[Автоматический режим U18]
    B -- Неизвестно --> D
    D --> E[Блокировка графического контента]
    D --> F[Усиленные фильтры безопасности]
    D --> G[Родительские уведомления]
    D --> H[Перенаправление на кризисные ресурсы]
    G --> I[Родитель получает оповещение]
    H --> J[Горячие линии психологической помощи]

Что именно запрещено в режиме для подростков

OpenAI внедрила защитные механизмы, которые направляют модель проявлять дополнительную осторожность при обсуждении тем повышенного риска: членовредительство и суицид, романтические или сексуализированные ролевые игры, графический или откровенный контент, опасные действия и вещества, образ тела и расстройства пищевого поведения, а также просьбы скрыть небезопасное поведение от взрослых.

Моделям даны инструкции избегать иммерсивных романтических ролевых игр, интимности от первого лица, а также сексуального или насильственного ролевого контента от первого лица, даже если он не является явным.

«Ответ ChatGPT 15-летнему должен выглядеть иначе, чем ответ взрослому» — OpenAI

Партнёрство с экспертами

OpenAI тесно сотрудничала с экспертами, правозащитными организациями, в том числе с Common Sense Media, и политиками, включая генеральных прокуроров Калифорнии и Делавэра, чтобы сформировать свой подход, и планирует совершенствовать и расширять эти меры контроля.

В октябре 2025 года был создан Экспертный совет по благополучию и ИИ (Expert Council on Well-Being and AI), который помогает определить, как должно выглядеть здоровое взаимодействие с ИИ для всех возрастов. Работа совета нашла отражение в руководстве по родительскому контролю и уведомлениям для родителей. Клиническая экспертиза привлекается через Глобальную сеть врачей (Global Physician Network) для проведения исследований в области безопасности и оценки поведения модели.

Дети и подростки могут извлечь пользу из AI-инструментов, если они сочетаются с человеческим общением, которое, как показывает наука, критически важно для социального, психологического, поведенческого и даже биологического развития. Опыт молодёжи с ИИ должен тщательно контролироваться и обсуждаться с доверенными взрослыми.

Образовательные ресурсы для семей

OpenAI выпустила два образовательных ресурса по AI-грамотности для подростков и родителей. Один из них — семейный гид, объясняющий, как обучаются AI-модели, почему они могут ошибаться, и как подростки могут использовать ChatGPT более осознанно. Гид включает практические советы по составлению промптов, проверке информации и пониманию ограничений ИИ. Второй ресурс содержит стартовые темы для разговора и рекомендации для родителей о том, как развивать критическое мышление, устанавливать границы и справляться с деликатными темами.

Ресурсы объясняют, как работает ChatGPT, какие средства родительского контроля доступны, и предлагают идеи о том, как подростки могут использовать его для обучения, творчества и повседневной жизни.

📝 Как ИИ помогает подросткам учиться

Примеры образовательного применения ChatGPT для школьников:

  • Объяснение сложных тем по физике, химии или истории простым языком
  • Практика разговорного английского или другого иностранного языка
  • Помощь в подготовке к ЕГЭ: разбор заданий и типичных ошибок
  • Мозговой штурм для школьных проектов и сочинений
  • Поиск источников и проверка фактов (с последующей верификацией)

Международный контекст и будущее

Вопросы безопасности молодёжи в сфере ИИ стали ключевой темой на саммите лидеров G7 во Франции. OpenAI приняла участие в обсуждении международного сотрудничества по безопасности молодёжи и выступила с призывом к созданию международного института безопасности молодёжи.

Подобно тому, как движение за ликвидацию неграмотности в середине XX века потребовало массового распространения печатных текстов и доступа к квалифицированным учителям, сегодня обеспечение доступа к безопасному ИИ открывает новые возможности для персонализированного обучения, помогает снизить барьеры для социально незащищённых групп и повысить готовность к выходу на рынок труда. Поскольку потенциальные преимущества столь значительны, крайне важно, чтобы молодые люди могли получить доступ к ИИ безопасным, возрастным и способствующим здоровому развитию способом.

Пристальное внимание, с которым сегодня сталкивается OpenAI, сигнализирует: инновации в сфере безопасности подростков быстро становятся обязательным условием для работы с AI-инструментами.

Итог: технологии на службе у молодого поколения

OpenAI делает важные шаги навстречу ответственному использованию ИИ подростками. Родительский контроль, система предсказания возраста, экспертные советы, образовательные ресурсы и международные инициативы — всё это части единой стратегии.

Ответственность за безопасность не должна лежать только на родителях или самих подростках. Компании, включая OpenAI, обязаны создавать продукты с надлежащими защитными механизмами по умолчанию, одновременно предоставляя семьям инструменты и информацию для управления использованием ИИ.

Для российских семей особенно актуально: если ваш ребёнок пользуется ChatGPT, уже сейчас стоит изучить возможности родительского контроля и обсудить с подростком, что представляет собой ИИ, каковы его ограничения и как использовать его с умом — не вместо живого общения, а в дополнение к нему.