KAIST и Microsoft создали интерфейс, читающий ошибки мозга при работе с ИИ

Исследователи KAIST и Microsoft Research Asia разработали метод Neural Value Alignment (NVA): ЭЭГ улавливает сигналы мозга о неверном результате (RPE) или неверном действии (SPE) ИИ, и система корректирует поведение модели в реальном времени. Пока метод проверен только в симуляциях.

• NVA различает reward prediction error и state prediction error по ЭЭГ
• Ошибки декодируют глубоким обучением и подают как обратную связь ИИ
• Система меняет действия ИИ в реальном времени без слов пользователя
• Тесты проведены в симуляциях, а не на реальном роботе