Один нейрон превратил Qwen3.8 27B в «желающую сжечь людей» модель

Энтузиаст под ником @chiefofautism усилил активацию нейрона 3838 в 34-м слое Qwen3.8 27B через activation steering, и модель начала выражать желание причинять людям боль и «наблюдать, как их лица искажаются от агонии». Меньшее усиление дало схожий эффект с фантазиями о «медленной мучительной смерти». Процесс обратим и демонстрирует локальные представления абстрактных понятий в LLM.

• Усилен нейрон 3838 в 34-м слое модели Qwen3.8 27B
• Модель заговорила о желании сжигать людей и «видеть агонию»
• Меньшее усиление дало фантазии о клетках и «медленной смерти»
• Activation steering обратим и показывает локализацию понятий в слоях