В Корее разрабатывают ИИ, который считывает мозговые волны человека, возникающие при мысли «это не то», и корректирует свое поведение
Корреспондент Гу Бон Хёк
- Корейский институт передовых технологии (KAIST) и Исследовательский институт MS в Азии разрабатывает интерфейс «мозг-компьютер» (BCI)
- Ожидается применение в физическом ИИ, автономном вождении, медицинских роботах и т. д.
Совместная исследовательская группа, проводившая данное исследование. Доктора Янсен Ван (слева направо) и Дончи Хан из Исследовательского центра Microsoft в Азии; студент KAIST Со Хын; доктор Ли Доншен из Исследовательского центра Microsoft в Азии; и профессор KAIST Ли Сан Ван (вверху справа) [Предоставлено KAIST]
В Корее разрабатывают технологию, при которой искусственный интеллект (ИИ) распознает реакцию мозга «это не то» даже без явного устного указания человека и самостоятельно корректирует свои действия.
10 сентября Корейский институт передовых технологии (KAIST) сообщил, что исследовательская группа под руководством профессора Ли Сан Вана из факультета когнитивных наук совместно с Исследовательским центром Microsoft в Азии разработала технологию «нейронного выравнивания ценностей» (NVA) — интерфейс «мозг-компьютер» (BCI), который в режиме реального времени настраивает ИИ на цели человека с помощью мозговых волн.
Существующий ИИ определяет намерения человека на основе внешне проявляемой информации, такой как речь, действия или жесты. Однако даже одно и то же действие может преследовать разные цели, из-за чего ИИ мог неправильно понимать истинные намерения человека.
Исследовательская группа обратила внимание на «ошибку прогнозирования», которая бессознательно возникает в мозге человека, когда он сталкивается с ситуацией, не соответствующей его ожиданиям. Они сформулировали «ошибку прогнозирования вознаграждения (RPE)», возникающую, когда ИИ неправильно понимает конечную цель, и «ошибку прогнозирования состояния (SPE)», возникающую, когда цель верна, но действия отличается от ожидаемого.
В результате измерения электроэнцефалограммы (ЭЭГ) человека, наблюдающего за работой ИИ, в режиме реального времени было подтверждено, что в случае неверной цели и в случае неверного действия появляются разные мозговые сигналы. Исследовательская группа применила глубокое обучение для различения этих сигналов и реализовала алгоритм, позволяющий ИИ корректировать свои действия в режиме реального времени.
Схема технологии «нейронного выравнивания ценностей (NVA)» для интерфейса «мозг-компьютер» (BCI) (изображение сгенерировано ИИ) [Предоставлено KAIST]
Рис. 1. Обзор системы NVA.
На данном рисунке представлено сравнение традиционной модели поведенческого согласования ценностей (поведенческая VA), показанной на верхней панели, с предлагаемой системой NVA, представленной на нижней панели. В данном сценарии человек X протягивает руку (ActionX), намереваясь, чтобы ИИ утолил жажду его друга Y (GoalAIjX), принеся горячую воду (ActionAIjX).
Однако из-за неоднозначности сопоставления цели и действия поведенческая VA неверно интерпретирует действие, предполагая, что человек X испытывает жажду (GoalAI) и хочет холодной воды (ActionAI), что приводит к несогласованности с человеческими ценностями на ранней стадии как на уровне цели, так и на уровне действия.
Система NVA устраняет эту неоднозначность, используя декодированный RPE для согласования цели ИИ с целью человека и SPE для уточнения действий ИИ на основе человеческих ожиданий — оба показателя извлекаются из сигналов человеческого мозга. Таким образом, система NVA может обеспечить более быстрое и точное согласование ценностей.
Рис. 2. Теоретическая модель и новая парадигма задачи для систематического декодирования ошибок прогнозирования человека.
(a) Теоретическая модель, иллюстрирующая декомпозицию ценностей на основе целей и действий.
(b) Схематическое изображение сценария навигации, ориентированного на человека, с выделением переменных, используемых для вычисления RPE и SPE.
Задачи принятия решений на основе прогнозирования: (c) задача бинарного выбора и (d) задача навигации, разработанные для разделения RPE и SPE.
При обнаружении SPE ИИ определяет, что цель верна, но метод неверный, и корректирует свое действие. При появлении RPE ИИ определяет, что сама цель понята неверно, и заново ищет цель, которую на самом деле хочет достичь пользователь-человек. В ходе моделирования система быстрее, чем существующие методы, адаптировалась к изменению намерений даже в ситуациях, когда цель человека внезапно менялась или некоторые сигналы пропускались.
Ожидается, что в будущем эта технология найдет применение в таких областях, требующих тесного сотрудничества человека и ИИ, как робототехника с физическим ИИ, автономное вождение, медицинские и реабилитационные роботы, а также индивидуализированное обучение.
«Эта технология обладает потенциалом для внедрения в качестве дополнительного канала обратной связи в широкий спектр существующих систем ИИ» - отметил профессор Ли Сан Ван, добавив: «Она может быть применена во всех областях, где ИИ должен постоянно адаптироваться к целям и предпочтительным для человека действиям, включая физический ИИ, коллаборативных роботов, BCI, автономное вождение, управление медицинскими и вспомогательными роботами, а также индивидуализированное образование».
Результаты данного исследования опубликованы в августе в международном научном журнале «IEEE Transactions on Cybernetics».
Комментарии