МЕНЮ

Фейкові новини – ходовий товар

25 січня, 2019 - 12:48
Про небезпечні алгоритми соціальних мереж і про те, як захистити демократії

Термін «фейкові новини» став епітетом, яким президент США Дональд Трамп наділяє будь-яку несприятливу статтю. Але це також аналітичний термін, який описує навмисну дезінформацію, представлену у вигляді звичайного новинного репортажу.

Проблема не зовсім нова. 1925 року журнал Harper’s Magazine опублікував статтю про небезпеки «фейкових новин». Але сьогодні дві третини дорослих американців отримують частину своїх новин із соціальних мереж, які спираються на бізнес-модель, схильну до зовнішніх маніпуляцій, і де алгоритми можуть легко обходити правила, щоб або одержати прибуток, або зі згубними цілями.

Незалежно від того, чи є вони аматорськими, кримінальними чи урядовими, багато організацій — як вітчизняні, так і зарубіжні — досягли успіху в інженерному аналізі того, як технічні платформи аналізують інформацію. Треба віддати належне Росії: її уряд одним із перших зрозумів, як перетворити соціальні мережі на зброю і використовувати американські компанії проти неї самої.

Переобтяженим величезною кількістю інформації, доступної в мережі, людям важко зрозуміти, на чому зосередити свою увагу. Увага, а не інформація, — це те мале, що треба захопити. Великі дані і штучний інтелект дозволяють здійснювати мікротаргетинг зв’язку таким чином, щоб інформація, отримувана людьми, обмежувалася «фільтрувальним міхуром» однодумців. «Безкоштовні» послуги, пропоновані соціальними мережами, засновані на моделі прибутку, в якій інформація й увага користувачів фактично є продуктами, які продаються рекламодавцям. Алгоритми розроблені для того, щоб дізнатись, що утримує користувачів залученими, щоб їм можна було запропонувати більше реклами й отримувати більше доходів.

Практика показує, що емоції, такі як обурення, стимулюють залучення, а скандальні, але недостовірні новини, залучають більше глядачів, ніж достовірна інформація. Згідно з даними одного дослідження, у подібної брехні у «Твіттер» було на 70% більше шансів бути ретвітнутою, ніж у точної інформації. Аналогічним чином вивчення демонстрацій у Німеччині на початку цього року (2018-го. — Ред.) показало, що алгоритм YouTube систематично спрямовував користувачів до екстремістського контенту, тому що саме там була найбільша кількість «кліків» і, відповідно, доходів. Перевірка фактів з боку звичайних засобів масової інформації часто не встигає, а інколи навіть може бути контрпродуктивною, привертаючи більше уваги до брехні.

За своєю природою модель прибутку соціальних медіа може стати зброєю як держав, так і недержавних суб’єктів. Останнім часом Facebook піддається серйозній критиці за випадок, пов’язаний із безцеремонним використанням приватної інформації своїх користувачів. Генеральний директор Марк Цукерберг визнав, що 2016 року Facebook «не був готовий до скоординованих інформаційних операцій, із якими ми регулярно стикаємося». Проте компанія «багато чого навчилася відтоді і розробила складні системи, які об’єднують технології і людей, аби перешкоджати втручанню виборів у наші послуги».

Ці зусилля включають автоматичні програми з пошуку і видалення фейкових облікових записів; виявлення сторінок Facebook, які поширюють дезінформацію, менш помітне, ніж у минулому; надання доповіді в порядку транспарентності про кількість видалених фальшивих облікових записів; перевірку громадянства тих, хто розміщує політичну рекламу; працевлаштування 10 тис. додаткових осіб для роботи у сфері безпеки; поліпшення координації з правоохоронними органами й іншими компаніями для усунення підозрілої діяльності. Але проблему не вирішено. «Гонка озброєнь» триватиме між компаніями соціальних медіа і державними, і недержавними суб’єктами, які інвестують у способи використання своїх систем. Технологічні рішення, такі як штучний інтелект, не є «срібною кулею». Оскільки часто вони є більш сенсаційними й обурливими, фейкові новини поширюються дедалі глибше і швидше, ніж справжні новини. Хибну інформацію у Twitter ретвітять значно більше людей і набагато швидше, ніж достовірну інформацію, а її повторення, навіть у контексті перевірки фактів, може збільшити ймовірність того, що людина прийме її як істинну.

Під час підготовки до президентських виборів 2016 року в США Агентство інтернет-розслідувань із Санкт-Петербурга (Росія) витратило понад рік на створення десятків акаунтів у соціальних мережах, замаскованих під місцеві американські новинні агентства. Інколи звіти сприяли кандидатові, але часто вони були створені просто для того, щоб створити враження про хаос і відразу до демократії і стримати явку виборців.

Коли 1996 року Конгрес ухвалив закон про благопристойність комунікацій, тодішні соціальні компанії в соціальних мережах розглядалися як нейтральні постачальники телекомунікаційних послуг, які дозволяли клієнтам взаємодіяти один з одним. Але ця модель явно застаріла. Під політичним тиском великі компанії почали ретельніше захищати свої мережі і позбуватися очевидних фейків, включаючи поширювані за допомогою ботнетів.

Але впровадження обмежень на свободу слова, що захищається Першою поправкою до Конституції США, створює складні практичні проблеми. Тоді як машини і неамериканські суб’єкти не мають прав на Першу поправку (і приватні компанії не підкоряються Першій поправці жодним чином), це не стосується жахливих національних груп і окремих осіб, і вони можуть виступати як посередники для зовнішнього впливу іноземних осіб.

У будь-якому разі збиток, завданий зовнішніми гравцями, може бути меншим за збиток, який ми заподіюємо самі собі. Проблему фейкових новин і зовнішнє спотворення реальних джерел новин складно вирішити, оскільки вони передбачають компроміси між нашими важливими цінностями. Соціальні медіакомпанії, які насторожено ставляться до нападок на цензуру, хочуть уникнути регулювання з боку законодавців, які критикують їх як за гріхи діяння, так і недіяння.

Досвід європейських виборів передбачає, що журналістські розслідування и попередження спільноти завчасно можуть допомогти прищепити виборців проти кампаній із дезінформації. Але битва з фейковими новинами, швидше за все, залишиться грою в кота й мишки між своїми постачальниками і компаніями, чиї платформи вони використовують. Це стане частиною фонового шуму виборів у всьому світі. Постійна пильність стане ціною захисту наших демократій.

Проект Синдикат для «Дня»

Джозеф НАЙ, професор Гарвардського університету, автор книги «Чи завершилось американське століття?» і майбутньої «Чи має значення мораль? Президенти і зовнішня політика від Франкліна Делано Рузвельта до Трампа»