ИИ научился понимать по мозговым сигналам, что хочет человек
ИИ может понять, что человек недоволен его решением, еще до того, как тот что-либо скажет. Исследователи KAIST и Microsoft Research Asia разработали систему Neural Value Alignment (NVA), которая по электроэнцефалограмме (ЭЭГ) определяет, какую именно ошибку допустил искусственный интеллект. Результаты работы опубликованы в журнале IEEE Transactions on Cybernetics.
ИИ учится различать ошибки
Обычно ИИ пытается понять намерения человека по его словам, действиям или жестам. Но такое поведение не всегда однозначно. Например, человек берет чашку. Он может собираться выпить воду, а может передать чашку другому человеку. И наоборот, одну и ту же цель можно достичь разными способами.
Исследователи решили использовать не только внешнее поведение, но и реакцию мозга. Когда человек видит действие ИИ, которое не соответствует его ожиданиям, в мозге возникает сигнал ошибки предсказания.
Команда выделила два таких сигнала. Ошибка предсказания вознаграждения (RPE) указывает на то, что ИИ, вероятно, неправильно понял саму цель. Ошибка предсказания состояния (SPE) говорит о другой проблеме: цель выбрана правильно, но ИИ пошел к ней неподходящим способом.
Мозг подсказывает ИИ, что именно пошло не так
Для экспериментов участники наблюдали за действиями ИИ, пока исследователи в реальном времени записывали их ЭЭГ. Анализ показал, что при двух типах ошибок возникают разные особенности мозговой активности. Отдельный характерный сигнал появлялся и тогда, когда ИИ одновременно ошибался и в цели, и в способе ее достижения.
Затем ученые применили глубокое обучение, чтобы распознавать эти сигналы. Полученная система могла определить, как человек воспринимает действие ИИ, даже если он ничего не говорил и не давал дополнительной команды.
Дальше исследователи подключили расшифрованный сигнал к алгоритму NVA. Если система обнаруживала SPE, ИИ понимал, что цель верная, но способ действия нужно изменить. При RPE он, наоборот, должен был пересмотреть саму цель и заново определить, чего хочет человек.
ИИ быстрее менял решение
Исследователи также провели компьютерное моделирование. В нем сравнивали подход NVA с системами, которые используют только один тип мозгового сигнала или ориентируются исключительно на наблюдаемое поведение.
Совместное использование RPE и SPE помогало системе быстрее подстраиваться под человека. Преимущество сохранялось даже при неполной или неточной расшифровке мозговых сигналов. Особенно это проявлялось в ситуациях, когда человек неожиданно менял свою цель.
«Это исследование показывает, что искусственный интеллект может выйти за пределы определения намерений человека только по наблюдаемым результатам его действий и напрямую использовать когнитивные сигналы мозга во время сотрудничества с человеком», — отметил руководитель работы, профессор KAIST Сан Ван Ли.
При этом NVA пока нельзя назвать полноценным чтением мыслей. Система не расшифровывает содержание любых мыслей человека, а определяет конкретные типы реакции мозга на действия ИИ.
Авторы считают, что такой подход может пригодиться там, где человеку приходится постоянно контролировать машину. Среди возможных применений они называют роботов, автономное вождение, медицинские системы, персонализированное обучение и другие технологии, в которых ИИ должен подстраиваться под человека без постоянных голосовых команд.
