Экс-исследователь OpenAI: нейросети поддаются расшифровке лучше, чем считалось

Ник Каммарата из Goodfire, заложивший основы механистической интерпретируемости в OpenAI, опубликовал эссе на 26 тыс. слов о том, что «чёрный ящик» нейросетей переоценён. По его данным, около 90% нейронов Qwen3-32B отвечают за одну основную концепцию, а знаменитый «нейрон кошек и машин» на деле реагировал на V-образную форму.

• Каммарата опубликовал эссе на 26 тыс. слов о природе нейросетей
• Около 90% нейронов Qwen3-32B отслеживают одну основную концепцию
• «Нейрон кошек и машин» реагировал на общую V-образную форму
• Скептики указывают на отсутствие строгой эмпирической проверки