В войне с дезинформацией трудно определить противника. Журналистов, политиков, правительства и даже бабушек и дедушек обвиняют в том, что они способствуют распространению лжи в Интернете.
Хотя ни одна из этих групп не является полностью невинной, настоящий противник более «прозаичен». Как заявила в конце прошлого года информатор Facebook Фрэнсис Хауген, алгоритмы социальных сетей делают дезинформацию доступной.
С момента своего появления в 2004 году Facebook превратился из студенческой социальной сети в монстра слежки, который разрушает социальную сплоченность и демократию во всем мире. Facebook собирает множество пользовательских данных, включая интимные факты, такие как вес тела и статус беременности, чтобы составить карту социальной ДНК своих пользователей. Затем компания продает эту информацию всем — от производителей шампуней до российских и китайских спецслужб, — которые хотят «микротаргетировать» ее 2,9 миллиарда пользователей. Таким образом, Facebook позволяет третьим сторонам манипулировать сознанием и торговать «человеческим будущим»: предсказательными моделями выбора, который, вероятно, сделают люди.
Во всем мире Facebook использовался для того, чтобы посеять недоверие к демократическим институтам. Его алгоритмы способствовали реальному насилию - от геноцида в Мьянме до вербовки террористов в Южной Америке, Западной Африке и на Ближнем Востоке. Ложь о фальсификациях выборов в Соединенных Штатах, продвигаемая бывшим президентом Дональдом Трампом, наводнила Facebook в преддверии беспорядков 6 января. Тем временем в Европе Facebook способствовал извращенным попыткам белорусского лидера Александра Лукашенко использовать мигрантов в качестве оружия против Европейского Союза.
В Чешской Республике дезинформация, исходящая из России и распространяемая на сайте, заполонила чешское киберпространство благодаря вредоносному коду Facebook. Один анализ, проведенный моей компанией, показал, что средний гражданин Чехии подвергается в 25 раз большей дезинформации о вакцине против COVID-19, чем средний американец. Ситуация настолько ужасна, а действия правительства настолько неумелы, что чехи полагаются на гражданское общество, в том числе на добровольцев, известных как «чешские эльфы (Czech Elves)», для контроля и противодействия этому влиянию.
Попытки уменьшить угрозу демократии со стороны Facebook до сих пор с треском провалились. В Чешской Республике Facebook заключил партнерство с Agence France-Presse для выявления вредоносного контента. Но с одним сотрудником, работающим неполный рабочий день, и ежемесячной квотой всего в десять сомнительных постов эти усилия — капля в океане дезинформации. «Файлы Facebook», опубликованные Wall Street Journal, подтверждают, что Facebook принимает меры в отношении «всего лишь 3-5 процентов разжигающих ненависть высказываний».
Facebook дал пользователям возможность отказаться от пользовательской и политической рекламы, но это символический жест. Некоторые организации, такие как Ranking Digital Rights, призвали платформу отключить таргетинг рекламы по умолчанию. Этого недостаточно. Микротаргетинг, лежащий в основе бизнес-модели Facebook, опирается на искусственный интеллект для привлечения внимания пользователей, максимального вовлечения и отключения критического мышления.
Во многих отношениях микротаргетинг является цифровым эквивалентом опиоидного кризиса. Но Конгресс США предпринял агрессивные меры для защиты людей от опиоидов посредством законодательства, направленного на расширение доступа к лечению, образованию и альтернативным лекарствам. Чтобы остановить пристрастие мира к фейковым новостям и лжи, законодатели должны признать кризис дезинформации тем, чем он является, и принять аналогичные меры, начиная с соответствующего регулирования микротаргетинга.
Проблема в том, что никто за пределами Facebook не знает, как работают сложные алгоритмы компании, и на их расшифровку могут уйти месяцы, если не годы. Это означает, что у регулирующих органов не будет другого выбора, кроме как полагаться на самих сотрудников Facebook, которые проведут их через фабрику. Для поощрения этого сотрудничества Конгресс должен предоставить полный гражданский и уголовный иммунитет и финансовую компенсацию.
Регулирование алгоритмов социальных сетей кажется сложным, но это легко по сравнению с еще большими цифровыми опасностями на горизонте. «Глубокие подделки (или дипфейки)» — широкомасштабные манипуляции видео и изображений с помощью искусственного интеллекта с целью повлиять на общественное мнение — почти не обсуждаются в Конгрессе. В то время как законодатели беспокоятся об угрозах, исходящих от традиционного контента, дипфейки представляют еще большую угрозу для частной жизни, демократии и национальной безопасности.
Тем временем Facebook становится все более опасным. Недавнее расследование, проведенное MIT Technology Review, показало, что Facebook финансирует дезинформацию, «платя миллионы рекламных долларов кликбейт-акторам» через свою рекламную платформу. И планы генерального директора Марка Цукерберга по созданию метавселенной, «конвергенции физической, дополненной и виртуальной реальности», должны напугать регулирующие органы во всем мире. Только представьте себе потенциальный ущерб, который могут нанести эти нерегулируемые алгоритмы искусственного интеллекта, если им позволят создать новую иммерсивную реальность для миллиардов людей.
В заявлении после недавних слушаний в Вашингтоне, округ Колумбия, Цукерберг повторил предложение, которое он делал ранее: «регулируйте нас». «Я не верю, что частные компании должны принимать все решения самостоятельно», — написал он в Facebook. «Мы стремимся делать свою работу как можно лучше, но на каком-то уровне подходящим органом для оценки компромиссов между различными типами социальной справедливости является наш демократически избранный Конгресс».
Цукерберг прав: Конгресс действительно обязан действовать. Но Facebook также обязан принимать меры. Он может показать Конгрессу, какое социальное неравенство он продолжает создавать и как он его создает. Пока Facebook не откроет свои алгоритмы для проверки (проводимой с помощью ноу-хау его же собственных экспертов), война с дезинформацией останется безнадежной, а демократии во всем мире будут оставаться во власти недобросовестной и отступнической индустрии.
Франтишек Врабель
Франтишек Врабель — генеральный директор и основатель Semantic Visions, пражской аналитической фирмы, которая собирает и анализирует 90% новостного онлайн-контента со всего мира. -- Ред.
(Project Syndicate)
От Korea Herald (khnews@heraldcorp.com)