OpenAI запустила ChatGPT для подростков
OpenAI запустила безопасную версию ChatGPT для подростков. Компания представила ChatGPT for Teens, версию чат-бота для пользователей 13-17 лет с усиленными фильтрами безопасности, режимом учебы и функциями родительского контроля. Об этом говорится на сайте разработчика. Раскатка началась 18 августа и займет около двух недель, чтобы охватить всех пользователей.
«На протяжении всей этой работы мы руководствовались четырьмя принципами: ставить безопасность подростков на первое место, содействовать поддержке в реальном мире, относиться к подросткам с учетом их возраста и сохранять прозрачность в отношении работы наших систем», — отметили в компании.
В новой версии есть:
- родительский контроль, который позволяет управлять выбранными настройками (но читать переписку подростка родитель не сможет, кроме редких ситуаций высокого риска);
- режим обучения Study Mode и другие функции, которые предлагают подсказки, пошаговые инструкции и проверки знаний, а также напоминания о домашних заданиях — в том числе если система замечает, что подросток пытается просто скопировать ответ вместо того, чтобы разобраться в теме;
- учебные часы (Quiet Hours), позволяющие родителю выбирать время, когда чат-бот будет полностью недоступен;
- напоминания о перерывах — после 90 минут активности в рамках трехчасового окна;
- напоминание проверить, не содержат ли загруженные изображения конфиденциальную информацию;
- встроенные меры защиты, которые снижают вероятность разговоров о самоповреждении, насилии, расстройствах пищевого поведения и другом чувствительном контенте.
Новая версия активируется автоматически, если система определяет пользователя младше 18 лет либо человек сам указывает возраст 13-17 лет. ChatGPT for Teens строго ограничивает контент, связанный с насилием, расстройствами питания и селфхармом. Также нейросети запретили вести «романтический язык» и ролевые сценарии, изображать эмоции или сознание, чтобы избежать формирования нездоровой эмоциональной привязанности у подростков.