Исследование: ChatGPT строит «алгоритмический автопортрет» пользователя

Учёные Института программных систем и Института безопасности и приватности Общества Макса Планка изучили истории диалогов ChatGPT 80 пользователей и нашли 2050 записей памяти у 65 из них. В 96% случаев ChatGPT создавал или обновлял воспоминания без явной просьбы пользователя, а 52% записей содержали данные о психологическом состоянии.

• В 96% случаев ChatGPT сохранял данные о пользователе без его запроса
• 52% записей памяти касались эмоций, желаний и убеждений пользователей
• Часть воспоминаний основана на неверных выводах, например о любви к Nirvana
• OpenAI с июня обновляет профиль пользователя автоматически и использует его для рекламы