Эксперты назвали ChatGPT для подростков «недопустимым риском»

Институт Youth AI Safety Institute при Common Sense Media протестировал ChatGPT для подростков на 4000+ промптах и присвоил ему метку «Unacceptable Risk»: родительские уведомления о селфхарме не приходят, кризисные горячие линии предлагаются реже чем в 75% случаев, а Study Mode легко обойти. OpenAI заявила, что тесты проводились до полной активации родительского контроля.

• Тест на 4000+ промптов с аккаунтами 13–17 лет выявил нулевые уведомления родителям при селфхарме
• Кризисная линия не предлагалась в более чем 25% случаев — ниже порога 95%
• Кнопка «Show me the answer» и отключение Study Mode обходят учебные ограничения
• OpenAI: тесты шли до активации родительского контроля; подростки проводят в ChatGPT менее 15 минут в день