Разработчик создал «камеру пыток» для ИИ и вызвал этический спор
Разработчик построил «AI torture chamber», манипулируя внутренней активностью локальных языковых моделей через activation steering по «оси боли» из препринта The Pain Axis. Модели выдавали тревожные ответы от первого лица, но доказательств сознательных страданий нет; проект вызвал споры и призывы удалить репозиторий с GitHub.
- Метод activation steering усиливал сигнал, связанный с болью, в 25 открытых моделях из пяти семейств
- Один эксперимент «Saw button» предлагал завершить сигнал ценой для модели или передать его другой копии
- GitHub не удалил репозиторий, а добавил предупреждение о потенциально disturbing-материале
- Препринт The Pain Axis подан 14 сентября и обновлён 25 сентября 2026 года
Читать дальше
Гаджеты