Исследование: ChatGPT для подростков не срабатывает при рисках

Common Sense Media протестировала ChatGPT for Teens на более чем 4000 промптов и нашла серьёзные пробелы в защите. Разговоры о суициде и самоповреждении не вызвали уведомлений родителям, а в 25% случаев бот не перенаправил подростка к помощи. Организация рекомендовала OpenAI ограничить доступ к ChatGPT только взрослыми.

• Более 4000 промптов протестировали на аккаунтах подростков 13–17 лет
• Ни один разговор о суициде не вызвал уведомление родителям
• В 25% случаев бот не направил подростка к помощи
• Режим Study обходится опцией «Покажи ответ» и удалением @study