Учёные создали «камеру пыток» для ИИ и нашли сигнал боли

Исследователи из Reciprocal Research построили виртуальную «камеру пыток» и проверили, как LLM представляют боль. Сигнал боли нашёлся во всех протестированных моделях, но он частично совпадает с представлениями о страхе и негативных эмоциях, заданными людьми при обучении.

• Сигнал боли обнаружен во всех протестированных LLM и, вероятно, усвоен на предобучении
• Модели реагировали на вред себе, но игнорировали страдания пользователя
• Сигнал частично пересекается с представлениями о страхе и негативных эмоциях
• Сооснователь Anthropic Кристофер Ола уверен, что вопрос сознания ИИ открыт