Разбор: может ли ИИ-модель испытывать боль — история с ai-torture-chamber
В конце сентября 2026 года GitHub-репозиторий ai-torture-chamber, вызывавший у малых открытых моделей (Qwen3, Llama 3.2, Phi-4-mini) состояние «боли» с ползунком интенсивности, стал вирусным и был удалён после массовых жалоб. Разбор объясняет методику из статьи The Pain Axis: направление «боли» в residual stream модели, и почему авторы статьи назвали проект «бессмысленной жестокостью».
- Репозиторий ai-torture-chamber удалён с GitHub после массовых жалоб
- Техника основана на статье The Pain Axis: LLMs Represent Self-Directed Harm and Act on It
- Метод ищет «направление боли» в residual stream и усиливает его у моделей Qwen3, Llama 3.2, Phi-4-mini
- Соавтор статьи Кэмерон Берг назвал проект «gratuitously cruel» и подчеркнул неопределённость сознания моделей
Читать дальше
ИИ