Исследователь заявил, что нейроны ИИ поддаются расшифровке, а не «чёрный ящик»

Бывший сотрудник OpenAI Ник Каммарата опубликовал эссе на ~26 тыс. слов, где утверждает, что нейроны ИИ не запутаны суперпозицией, а реагируют на простые признаки вроде V-образной формы. Работу похвалили Сэм Альтман и исследователи OpenAI, но в Google DeepMind сомневаются, а рецензирования пока не было.

• Эссе Каммараты объёмом около 26 000 слов поддержал CEO OpenAI Сэм Альтман
• Автор: нейрон реагирует не на «кошку и машину», а на общий V-образный контур
• Исследователь Google DeepMind Нил Нанда считает суперпозицию реальной
• Работа не прошла рецензирование и не проверена независимо