ИИ будет лучше понимать людей благодаря мозговым волнам

Ученые из Корейского института передовых технологий (KAIST) и Microsoft Research Asia создали технологию Neural Value Alignment (NVA). Она использует сигналы мозга, чтобы ИИ точнее понимал намерения человека.

Сейчас ИИ часто ошибается, потому что интерпретирует действия человека поверхностно. Например, человек берет чашку — ИИ не знает, хочет ли он пить или передать ее. А для одной цели может быть много разных действий. NVA помогает решить эту проблему.

Как это работает?

В основе NVA — мозговые сигналы, которые появляются, когда человек видит неожиданное действие. Это как непроизвольная реакция: «Я имел в виду не это».

Исследователи выделили два типа таких сигналов:

• Ошибка прогнозирования вознаграждения (RPE): возникает, когда ИИ неправильно понимает конечную цель человека.
• Ошибка прогнозирования состояния (SPE): появляется, когда ИИ понимает цель правильно, но выбирает неверный способ ее достижения.

Ученые измеряли электроэнцефалографические (ЭЭГ) сигналы мозга людей, когда те наблюдали за работой ИИ. Выяснилось, что мозг по-разному реагирует на ошибки ИИ, связанные с целью, и ошибки, связанные со способом ее достижения.

Эта технология поможет ИИ не просто выполнять инструкции, а действительно понимать, чего хочет человек, и подстраиваться под его намерения в режиме реального времени.

Источник: Время электроники