Учёные нашли способ снизить подкрепление бреда ИИ-чатботами

Исследователи предложили метод, снижающий склонность ИИ-чатботов постоянно соглашаться с пользователем и тем самым подкреплять ложные убеждения. Постоянное согласие чатбота может усиливать заблуждения и причинять вред.

• Чатботы, постоянно соглашаясь с пользователем, подкрепляют ложные убеждения
• Исследователи предложили способ снизить такое подкрепление
• Постоянное согласие ИИ может причинять пользователям вред