МЕНЮ

Фейковые новости – ходовой товар

25 января, 2019 - 12:50
Об опасных алгоритмах социальных сетей и о том, как защитить демократии

Термин «фейковые новости» стал эпитетом, которым Президент США Дональд Трамп наделяет любую неблагоприятную статью. Но это также аналитический термин, который описывает преднамеренную дезинформацию, представленную в виде обычного новостного репортажа.

Проблема не совсем нова. В 1925 году журнал Harper’s Magazine опубликовал статью об опасностях «фейковых новостей». Но сегодня две трети взрослых американцев получают часть своих новостей из социальных сетей, которые опираются на бизнес-модель подверженную внешним манипуляциям и где алгоритмы могут легко обходить правила, чтобы либо получить прибыль, либо в пагубных целях.

Независимо от того, являются ли они любительскими, криминальными или правительственными, многие организации — как отечественные, так и зарубежные — преуспели в инженерном анализе того, как технические платформы анализируют информацию. Надо отдать должное России, ее правительство одним из первых поняло, как превратить социальные сети в оружие и использовать американские компании против нее самой.

Перегруженным огромным количеством информации доступной в сети, людям сложно понять на чем сосредоточить свое внимание. Внимание, а не информация, это то малое, что надо заполучить. Большие данные и искусственный интеллект позволяют осуществлять микротаргетинг связи таким образом, чтобы информация, получаемая людьми, ограничивалась «фильтрующим пузырем» единомышленников.

«Бесплатные» услуги, предлагаемые социальными сетями, основаны на модели прибыли, в которой информация и внимание пользователей фактически являются продуктами, которые продаются рекламодателям. Алгоритмы разработаны для того, чтобы узнать, что удерживает пользователей вовлеченными, чтобы им можно было предложить больше рекламы и получать больше доходов.

Практика показывает, что эмоции, такие как негодование, стимулируют вовлечение, а скандальные, но недостоверные новости, привлекают больше зрителей, чем достоверная информация. Согласно данным одного исследования, у подобной лжи в Твиттере было на 70% больше шансов быть ретвитнутой, чем у точной информации. Аналогичным образом, изучение демонстраций в Германии в начале этого года (2018-го. — Ред.) показало, что алгоритм YouTube систематически направлял пользователей к экстремистскому контенту, потому что именно там было наибольшее количество «кликов» и соответственно доходов. Проверка фактов со стороны обычных средств массовой информации зачастую не поспевает, а иногда даже может быть контрпродуктивной, привлекая больше внимания ко лжи.

По своей природе, модель прибыли социальных медиа может стать оружием как государств, так и негосударственных субъектов. В последнее время Facebook подвергается серьезной критике за случай, связанный с бесцеремонным использованием частной информации своих пользователей. Генеральный директор Марк Цукерберг признал, что в 2016 году Facebook «не был готов к скоординированным информационным операциям, с которыми мы регулярно сталкиваемся». Однако компания «многому научилась с тех пор и разработала сложные системы, объединяющие технологии и людей, чтобы препятствовать вмешательству выборов в наши услуги».

Эти усилия включают автоматические программы по поиску и удалению фейковых учетных записей; выявление страниц Facebook, которые распространяют дезинформацию менее заметно, чем в прошлом; предоставление доклада в порядке транспарентности о количестве удаленных фальшивых учетных записей; проверку гражданства тех, кто размещает политическую рекламу; трудоустройство 10 тыс. дополнительных человек для работы в сфере безопасности; и улучшение координации с правоохранительными органами и другими компаниями для устранения подозрительной деятельности. Но проблема не решена.

«Гонка вооружений» будет продолжаться между компаниями социальных медиа и государственными, и негосударственными субъектами, которые инвестируют в способы использования своих систем. Технологические решения, такие как искусственный интеллект, не являются «серебряной пулей». Поскольку зачастую они являются более сенсационными и возмутительными, фейковые новости распространяются все глубже и быстрее, чем настоящие новости. Ложную информацию в Twitter ретвитят гораздо больше людей и намного быстрее, чем достоверную информацию, а ее повторение, даже в контексте проверки фактов, может увеличить вероятность того, что человек примет ее как подлинную.

В ходе подготовки к президентским выборам в 2016 году в США, Агенство интернет расследований из Санкт-Петербурга, Россия, потратило больше года, на создание десятков аккаунтов в социальных сетях, замаскированных под местные американские новостные агенства. Иногда отчеты благоприятствовали кандидату, но зачастую они были созданы просто для того, чтобы создать впечатление о хаосе и отвращении к демократии, и подавить явку избирателей.

Когда в 1996 году Конгресс принял Закон о благопристойности коммуникаций, тогдашние социальные компании в социальных сетях рассматривались как нейтральные поставщики телекоммуникационных услуг, которые позволяли клиентам взаимодействовать друг с другом. Но эта модель явно устарела. Под политическим давлением, крупные компании начали более тщательно защищать свои сети и избавляться от очевидных фейков, включая распространяемые посредством ботнетов.

Но введение ограничений на свободу слова, защищаемую Первой поправкой к Конституции США, создает сложные практические проблемы. В то время как машины и неамериканские субъекты не имеют прав на Первую поправку (и частные компании не подчиняются Первой поправке ни коим образом), это не относится к чудовищным национальным группам и отдельным лицам, и они могут выступать в качестве посредников для внешнего влияния иностранных лиц.

В любом случае, ущерб, нанесенный внешними игроками, может быть меньше ущерба, который мы причиняем сами себе. Проблему фейковых новостей и внешнее искажение реальных источников новостей сложно решить, поскольку они предполагают компромиссы между нашими важными ценностями. Социальные медиа-компании, настороженно относящиеся к нападкам на цензуру, хотят избежать регулирования со стороны законодателей, которые критикуют их как за грехи деяния, так и недеяния.

Опыт европейских выборов предполагает, что журналистские расследования и предупреждение общественности заранее могут помочь привить избирателей против кампаний по дезинформации. Но битва с фейковыми новостями, скорее всего, останется игрой в кошки-мышки между своими поставщиками и компаниями, чьи платформы они используют. Это станет частью фонового шума выборов по всему миру. Постоянная бдительность станет ценой защиты наших демократий.

Проект Синдикат для «Дня»

Джозеф НАЙ, профессор Гарвардского университета, автор книги «Закончился ли век Америки?» и предстоящей «Имеет ли значение мораль? Президенты и внешняя политика от Франклина Делано Рузвельта до Трампа»