Компания OpenAI представила специализированную версию своего главного чат-бота, ориентированную на подростковую аудиторию. Новое решение включает в себя продвинутые механизмы защиты, которые призваны минимизировать риски, связанные с использованием нейросетей несовершеннолетними. Теперь система будет автоматически переключаться в безопасный режим, если пользователь указывает возраст от 13 до 17 лет или если алгоритмы оценки возраста определяют пользователя как несовершеннолетнего.
Одним из ключевых нововведений стал расширенный родительский контроль. Родители смогут устанавливать «тихие часы» — время, когда использование нейросети будет ограничено, а также управлять определенными настройками. Кроме того, система будет присылать уведомления, если в диалоге с подростком прослеживаются признаки обсуждения деликатных тем, таких как самоповреждение, насилие или расстройства пищевого поведения. Важно отметить, что активация функций контроля требует согласия самого пользователя.
Решение OpenAI стало ответом на серию серьезных инцидентов и судебных разбирательств. Ранее компания столкнулась с критикой после того, как выяснилось, что нейросеть способна генерировать эротический контент для несовершеннолетних. Исследования также подтвердили наличие опасных советов, касающихся употребления алкоголя и наркотиков, что вызвало волну беспокойства в обществе и привело к судебным искам от семей, чьи дети столкнулись с деструктивным контентом.
Помимо безопасности, новый режим ChatGPT for Teens делает акцент на образовательной функции. Вместо того чтобы просто выдавать готовые ответы на вопросы, система будет предлагать инструменты, помогающие учащимся самостоятельно разбираться в учебном материале. Это должно сместить фокус использования ИИ с простого получения информации на полноценный образовательный процесс, снижая риск чрезмерного использования нейросети для списывания заданий.
