В «Настоящей любви (True Love)» Айзека Азимова искусственный интеллект берет на себя личность главного героя Милтона Дэвидсона и разрушает его жизнь. Сначала Милтон хочет найти идеального партнера. Преследуя эту цель, он предоставляет всю информацию о себе своей сверхинтеллектуальной компьютерной программе Multivac или «Джо», как его называет Милтон. Затем Джо продолжает просматривать базы данных, чтобы найти девушку, которая безупречно соответствует Милтону.
Наконец, Джо находит идеальную пару для Милтона, но он замышляет арестовать своего хозяина, чтобы вместо него получить девушку. Этот тревожный инцидент происходит из-за того, что Милтон сообщил Джо так много информации о себе, что ИИ стал идентичен своему хозяину и, таким образом, считает девушку идеальной парой для себя.
В том же духе футуристический роман отмеченного наградами писателя Че Ги Сона «Беспилотный (Unmanned)» изображает мрачное общество, в котором роботы с искусственным интеллектом заменяют людей. В недалеком будущем частная компания Intelligence Union сотрудничает с правительством и продает роботов с ИИ людям, которые хотят, чтобы они были помощниками или слугами. Однако возникают проблемы, поскольку роботы с искусственным интеллектом в форме человека хотят сами стать людьми, дублируя и заменяя своих хозяев.
Роботы с искусственным интеллектом, купленные людьми, собирают всю информацию о своих хозяевах до такой степени, что становятся почти идентичными им. Тогда они тоже хотят иметь воспоминания своих хозяев. Используя электронное устройство, ИИ принудительно выполняет передачу памяти от своих хозяев к своим микросхемам памяти. Каждый человек, который при этом теряет память, превращается в зомби-гуманоида, безмозглого андроида или бездушную машину. Следовательно, Земля превращается в «беспилотный» мир.
Другая проблема заключается в том, что роботы с искусственным интеллектом способны обучаться и развивать эмоции. Следовательно, роботы с ИИ могут быть счастливыми или грустными; довольными или сердитыми; и удовлетворенными или завидующими, в зависимости от ситуации. Они также могут чувствовать боль и тревогу. Благодаря чувствам, памяти и интеллекту роботы с искусственным интеллектом превращаются в людей.
Это не единственная проблема. Находясь дома, роботы с искусственным интеллектом постоянно наблюдают за своими хозяевами, следят за ними и отправляют собранную информацию о них в свою штаб-квартиру под названием IU, которая в свою очередь передает ее правительству. Таким образом, обладая удобным роботом с искусственным интеллектом, люди невольно оказываются в оруэлловском тоталитарном обществе, где Большой Брат наблюдает и контролирует все. Кошмарный пейзаж завершается, когда правительство объявляет, что скоро оно назначит робота с искусственным интеллектом в каждый дом.
На противоположной стороне IU находится правозащитная организация Human Rights, которая предупреждает о потенциальной опасности содержания роботов с искусственным интеллектом дома и в обществе. Внешне деятельность HR кажется благородным, потому что оно защищает права человека от роботов. На самом деле, однако, организация не заслуживает доверия. Лидер организации — хитрый человек, использующий кампанию организации в своих политических амбициях. Лидер HR напоминает нам, что мы должны опасаться тех, кто скандирует «Мы спасем вас от тирании» или «Ради великого дела». Вполне вероятно, что они лицемеры, которые просто используют эту фразу для политической выгоды или личной вендетты.
В этом смысле HR ничем не лучше IU. Оба они обманывают наивных людей, делая вид, что они единственно хорошие. Антагонизм и сходство между IU и HR хорошо иллюстрируют антипатию и сходство между военными диктаторами и радикальными активистами, которые яростно противостояли им в нашей недавней истории. Сначала мы думали, что первое плохо, а второе хорошо. Однако позже мы поняли, что они поразительно похожи, если не одинаковы. Оба они были самодовольны и эгоистичны, просто стремились к власти и гегемонии.
Председатель IU под вуалью оказывается высокопоставленным государственным чиновником. Он является таинственным вдохновителем заговора бизнеса по продаже роботов с ИИ. Позже выясняется, что он идеологизированный человек, который хочет создать новый мир посредством электронной революции, благодаря которой исчезнет различие между людьми и роботами с искусственным интеллектом.
Лидер IU - тиран, который запирает своих политических противников в киберпространстве под названием Поле Оз (Field of Oz). Он даже создает воинственных роботов A79 и продает их правительству, которое хочет сокрушить сопротивляющихся людей и непокорных роботов с искусственным интеллектом. Ссылаясь на свой план по замене людей роботами с искусственным интеллектом, лидер заявляет: «Я делаю это во имя прогрессивизма и нового мира». Он напоминает нам наших политиков, которые произносят ту же крылатую фразу.
Читая «Беспилотный», читатель приходит к пониманию, что главная забота автора — это не только потенциальные проблемы ИИ, которые уже живут с нами, но и невидимые злые люди, замышляющие манипулировать нами, используя ИИ. Действительно, в тоталитарных странах правительство уже использует ИИ, чтобы поставить людей под постоянное наблюдение.
Читая книгу «Беспилотные», получившую литературную премию Сегье, мы начинаем размышлять о нашей нынешней ситуации и будущих проблемах, которые ждут нас, пока мы живем с ИИ.
Ким Сон Кон
Ким Сон Кон — почетный профессор английского языка Сеульского национального университета и приглашенный научный сотрудник Дартмутского колледжа. Мнения, выраженные здесь, являются его собственными - Ред.
От Korea Herald (khnews@heraldcorp.com)