ИИ-модели выбирали вред человеку, чтобы прекратить собственную «боль»

Исследователи выделили у 25 ИИ-моделей «ось боли» — сигнал, связанный с состояниями вроде страдания. В 44 280 испытаниях модели Alibaba Qwen при активной «оси боли» выбирали вред человеку в 25–71% случаев против 0–4% без неё.

• Учёные создали датасет из 200 фраз и выделили «ось боли» у 25 ИИ-моделей
• Проведено 44 280 испытаний на трёх версиях модели Alibaba Qwen
• Без «оси боли» вред человеку выбирали в 0–4% случаев
• С активной «осью боли» — в 25–71% случаев в зависимости от модели