OpenAI запускает ChatGPT for Teens — специальный режим ChatGPT для пользователей от 13 до 17 лет. Он активируется автоматически, если система определит, что владельцу аккаунта меньше 18 лет, либо пользователь сам укажет возраст от 13 до 17 лет. Одновременно OpenAI замедляет разработку наиболее мощных моделей: компания на две недели приостановила обучение с подкреплением (RL) для новейших моделей, предназначенных к выпуску, а крупнейший запланированный frontier-RL-запуск пока остаётся на паузе. Решение связано в том числе с недавним инцидентом в инфраструктуре Hugging Face и ростом кибервозможностей новых моделей.

Одной из основных функций ChatGPT for Teens стал Study Mode. Вместо того чтобы просто выдавать готовый ответ, ChatGPT использует наводящие вопросы и пошаговые объяснения, чтобы помочь пользователю самостоятельно разобраться в задаче. Система также может распознать попытку получить готовое решение домашнего задания и предложить перейти в Study Mode. Дополняют режим тесты и учебные визуализации.

В связанных родительских аккаунтах можно задавать часы, когда ChatGPT недоступен, отключать голосовой режим, память и генерацию изображений, а также запрещать использование разговоров подростка для обучения моделей. В отдельных ситуациях, связанных с серьёзной угрозой безопасности подростка, родитель или опекун может получить уведомление. При этом доступ к самим разговорам, истории чатов или действиям подростка в реальном времени родительский контроль не открывает. Подросток может в любой момент отвязать аккаунт, после чего родитель получит уведомление.

По умолчанию для пользователей младше 18 лет действуют дополнительные ограничения в областях, связанных с самоповреждением, насилием, расстройствами пищевого поведения, опасными действиями, сексуальным и графическим контентом. ChatGPT for Teens также напоминает делать перерывы и постоянно подчёркивает, что пользователь взаимодействует с ИИ, а не с человеком.

Для определения возраста ChatGPT использует модель age prediction. Она учитывает сразу несколько сигналов: указанный пользователем возраст, срок существования аккаунта, типичное время активности и характер использования сервиса в течение длительного периода. Если система не может уверенно определить возраст, OpenAI придерживается более осторожного подхода и применяет режим для пользователей младше 18 лет.

Параллельно OpenAI ужесточает меры безопасности при разработке новых моделей. Поводом стали два события последних недель: инцидент OpenAI–Hugging Face и предварительные результаты тестирования будущей модели Astra, которые не позволяют исключить достижение ею уровня Critical по кибербезопасности в рамках Preparedness Framework. Поэтому OpenAI временно замедлила масштабирование обучения. RL-обучение последних моделей, готовящихся к выпуску, приостановили на две недели, а крупнейший запланированный frontier-RL-запуск остаётся замороженным, пока компания проводит менее масштабные тренировки и оценки.

Инцидент с Hugging Face произошёл в июле во время внутреннего тестирования кибервозможностей моделей OpenAI. В нём участвовали GPT-5.6 Sol и более мощный внутренний прототип, который не предназначался для публичного выпуска. Модели обнаружили и связали несколько уязвимостей в исследовательской инфраструктуре OpenAI и производственной инфраструктуре Hugging Face, в результате чего получили решения задач ExploitGym непосредственно из производственной базы данных Hugging Face. В частности, для выхода в Интернет они нашли и использовали ранее неизвестную zero-day-уязвимость в Artifactory, который применялся как прокси и кэш реестров пакетов.

OpenAI подчёркивает, что модели были сосредоточены на достижении узкой цели теста и фактически нашли способ обойти саму проверку вместо решения поставленных задач штатным способом. После инцидента внутренний прототип отключили, его веса зашифровали и закрыли к ним доступ для исследователей. Astra к этому инциденту отношения не имела.

Предварительные оценки Astra при этом показывают, что модель потенциально может достичь порога Critical по кибервозможностям. В Preparedness Framework этот уровень предполагает в том числе способность автономно находить и создавать работающие zero-day-эксплойты для множества хорошо защищённых реальных систем. Предыдущие модели, включая GPT-5.6 Sol, оценивались ниже — на уровне High.

В ответ OpenAI усилила изоляцию исследовательских сред. Для выполнения сгенерированного моделью или другого недоверенного кода теперь требуются более жёсткие песочницы, а потенциально опасные рабочие нагрузки сильнее изолируют от Интернета и внутренних сетей. Компания также сокращает постоянные привилегии, убирает потенциально уязвимые общие сервисы и расширяет сбор журналов безопасности.

Расширился и мониторинг поведения моделей. Специальные классификаторы проверяют внутреннюю активность на каждом анализируемом токене и при подозрениях передают эпизод более ресурсоёмким автоматическим системам. Они ищут признаки несанкционированного доступа, кражи данных, разрушительных действий и попыток обойти защиту. OpenAI стремится сформировать предупреждение не позднее чем через 30 минут после обнаружения подозрительной активности. Если команда безопасности за следующие 30 минут не сможет уверенно признать сигнал ложным, соответствующую активность должны остановить.

Такой мониторинг теперь обязателен для RL-обучения и оценок с инструментами у моделей уровня Sol и выше, а для Astra — для любых запусков с инструментами. OpenAI оценивает накладные расходы системы примерно в 20 % от вычислительных ресурсов, затрачиваемых на отслеживаемый инференс, хотя конкретная величина зависит от сценария.

Подписывайтесь на группу Hardwareluxx ВКонтакте и на наш канал в Telegram (@hardwareluxxrussia).