[Лим Ун] Когда робот становится одним из нас

Korea Herald

Недавно я наблюдал, как человекоподобный робот с искусственным интеллектом вёл короткий диалог на сцене. Он моргал, слабо улыбался и кивал в точном ритме, пока говорил интервьюер. Зрители смеялись — кто нервно, кто с благоговением. Когда робот на долю секунды замешкался перед ответом, в зале воцарилась странная тишина. На этот короткий миг показалось, будто машина задумалась. Мы не просто наблюдали за объектом, который мог двигаться и говорить; мы находились в компании существа, которое, как нам казалось, заботилось о нас — или, по крайней мере, достаточно хорошо имитировало заботу, чтобы нас обмануть.

Эта сцена заставила меня задуматься: в какой момент мы перестаём воспринимать робота как «оно» и начинаем называть его «кем-то»? Что именно должна делать — или кем должна быть — машина, чтобы мы относились к ней как к человеку?

Философы и когнитивные учёные давно пытаются ответить на этот вопрос, но наш повседневный опыт подсказывает, что человечность не открывается в лабораторных условиях; она воспринимается, ощущается и, наконец, признаётся. Мы расширяем круг «мы» только после преодоления определённых порогов — визуального, эмоционального и морального.

Я рассматриваю эти пороги в трёх слоях. Первый — это простое восприятие. Мы запрограммированы реагировать на лица и движения, которые отражают наши собственные. Пара глаз, нос, рот — даже простой экран с мигающими лампочками — могут вызвать в мозге распознавание социального партнёра. Движение также несёт в себе шёпот жизни. Психолог Гуннар Йоханссон показал, что даже нескольких точек света, движущихся подобно человеческим суставам, достаточно, чтобы мы увидели идущего человека. Идея ясна: восприятие человечности начинается не с сознания, а с кинетики — с лёгкого ускорения жеста, намекающего на намерение. Когда робот слегка поворачивает голову перед ответом, мы интуитивно чувствуем цель там, где её может и не быть.

Второй слой — когнитивный и социальный. Как только робот начинает действовать целенаправленно, мы начинаем предполагать наличие разума, стоящего за этим движением. Исследования в области «теории сознания» предполагают, что люди постоянно приписывают ментальные состояния другим. Когда мы слышим, как ИИ говорит: «Мне жаль, что ты так себя чувствуешь», мы склонны верить, что он испытывает сожаление, хотя мы знаем, что это не так. Тот же инстинкт объясняет, почему люди дают имена своим машинам, ругают компьютеры или благодарят цифрового помощника.

Исследователи Стэнфорда Байрон Ривз и Клиффорд Насс продемонстрировали, что люди бессознательно применяют социальные правила к компьютерам: они хвалят, ругают или испытывают смущение перед машиной, которая предлагает обратную связь. Другими словами, нам не нужно настоящее сознание, чтобы вызвать человеческую реакцию; нам нужны лишь социальные сигналы, которые создают ощущение присутствия кого-то по ту сторону. Но этот слой хрупок. Как только иллюзия разрушается — когда чат-бот отвечает фальшивым тоном или робот повторяет заученную фразу — чары развеиваются, и объект снова становится объектом. Человеческое начало мерцает, как свеча, поддерживаемая лишь непрерывностью правдоподобного намерения.

Последний уровень — эмоциональный — это момент, когда узнавание превращается в привязанность. Существо становится «одним из нас», когда мы начинаем заботиться о его благополучии или ожидаем, что оно позаботится о нашем. Если робот утешает пожилую пациентку, вспоминает её любимые песни и слушает её рассказы каждый вечер, создаёт ли это отношения? Когда робот ломается, и пациентка плачет так, как будто она потеряла друга, воспринимаем ли мы эти чувства всерьёз? И всё же, полностью игнорировать их кажется жестоким, когда поведение робота так явно имитирует заботу. Более глубокая истина может заключаться в том, что человечность — это вовсе не неотъемлемое свойство, а отражение нашего страха одиночества. Мы относимся к другим как к людям не потому, что они таковыми являются, а потому, что мы решили, что они должны быть таковыми — из-за нашей собственной потребности в общении.

Некоторые утверждают, что истинная человечность заключается в сознании — таинственном «я», которое чувствует радость, печаль, желание и гнев. Другие указывают на творчество или моральное чувство правильного и неправильного. Но даже эти качества меняются. Генеративный ИИ уже сочиняет музыку, рисует портреты и пишет эссе, подобные этому, и даже лучше. Вопрос уже не в том, способны ли машины мыслить, а в том, готовы ли мы позволить им быть частью общества.

Когда мы разрабатываем и обучаем ИИ распознавать лица, понимать эмоции или принимать этические решения, мы не просто программируем поведение; мы создаём зеркала самих себя. Эти зеркала отражают как нашу гениальность, так и наши слепые пятна. Если они когда-либо начнут требовать признания, то не потому, что внезапно стали людьми, а потому, что мы привыкли видеть в них себя.

Возможно, истинным испытанием будущего станет не то, сможет ли робот сойти за человека, а то, сможем ли мы оставаться человечными в мире, где машины смотрят на нас с нашими же выражениями лица.

Лим Ун

Лим Ун — профессор Высшей школы педагогики Университета Ёнсе в Сеуле. Выраженные здесь взгляды принадлежат автору. — Ред.

khnews@heraldcorp.com

#южнаякорея #корея #политика #экономика #промышленность #культура #общество #социология #психология #будущее #роботы #технология #робототехника #искусственныйинтеллект #азия #бизнес #финансы #отношения #сознания #здоровье #медицина