Часи дикого інтернету, де кожен міг бути ким завгодно й публікувати що завгодно, минули. Сьогодні на соціальних платформах, які забезпечують спілкування і публікацію контенту сотень мільйонів людей і організацій, діють чіткі правила, які мали б унеможливлювати або, принаймні, обмежувати деструктивні й токсичні дії. Ба більше, саме соцмережі, в першу чергу Facebook, найбільше доклались до переведення комунікацій в інтернеті на цивілізовані рейки (не в останню чергу тому, що поміж матюків, фейків і спаму важче продати рекламу). Правила більшості соцмереж забороняють лайку, мову ворожнечі, будь-яку дискримінацію, заклики до насильства і тому подібне, а також маніпуляції громадською думкою, втручання у виборчий процес, навмисну дезінформацію, порушення авторських прав… Чому ж тоді соцмережі не схожі на райські сади, де ввічливі люди обмінюються приязними фразами? 

Що заважає контролювати дотримання цих правил? Причина проста: багатомільйонна «поліція», яка ефективно стежила б за порядком у безперервній комунікації мільярда людей і організацій, просто не може існувати. Цю роль виконують комп’ютерні програми, які аналізують дописи й поширений контент, реагують на скарги і автоматично приховують або видаляють те, що кваліфікували як порушення правил. А ще — блокують користувачів мережі, на яких часто й багато скаржились інші користувачі. 

У механізмі модерації також відчутна суто комерційна логіка. До прикладу, дотримання авторських прав соцмережі і відеохостинги аналізують автоматично, нещадно блокуючи публікації за звук або відео, використані без дозволу правовласника. Натомість на більшість порушень, які стосуються спілкування між людьми, алгоритм реагує за заявним принципом: хтось поскаржився — є проблема, ніхто не поскаржився — немає. Якщо достатня (яка саме — таємниця програми-модератора) кількість користувачів мережі позначить ваш допис про тепле сонечко чи любов до квіточок як образливий або неправдивий, алгоритм приховає його і, можливо, обмежить аудиторію інших ваших дописів. Для публічної організації або медіа, що залежить від охоплення, шкода від таких санкцій може бути непоправною. Натомість іншим користувачам «щастить» порушувати правила роками без жодних наслідків. 

Рішення алгоритму можна оскаржити, проте апеляцію розглядатиме, як правило, також програма. Й лише повторна апеляція має шанс дійти до людини-модератора. Спеціалісти з комунікацій у соцмережах, які намагалися розв’язати проблеми з несправедливим блокуванням або обмеженням, розповідають, що для спілкування з живою людиною з адміністрації зазвичай доводиться пройти багато кіл пекла. Meta, Twitter, Google та інші техгіганти в останні роки декларували відмову від людей-модераторів на користь дедалі досконалішого штучного інтелекту. Щоправда, YouTube довелося повернути людей після того, як алгоритм «захопився» і видалив за три місяці 11 мільйонів відео, з них щонайменше кількасот тисяч — несправедливо. 

Зловживання інструментами автоматичної модерації — вже звичний елемент інформаційного протистояння. Маніпулятори створюють мережі фіктивних користувачів (ботів), які синхронно скаржаться на певних користувачів або дописи, аж поки алгоритм їх не видалить. Іноді для цього використовують сталі або спонтанно організовані групи реальних користувачів, а також спеціальні програми, які вишукують повідомлення за ключовими словами і дають ботам команду «фас». Ці та подібні дії називають «координованою неавтентичною поведінкою». Часом їх поєднують зі зламами облікових записів, хакерськими і DDoS-атаками, спамом у коментарях тощо.

Почалась велика війна, і соцмережі не впорались. Повномасштабна війна Росії проти України поглибила цю проблему й додала їй нових вимірів. Активність мереж ботів і поширювачів пропаганди та дезінформації багатократно зросла; побільшало й забороненого правилами контенту. Якщо з головним джерелом дезінформації все більш-менш зрозуміло — не дарма дослідження Євросоюзу 2022 року визначило Росію головним поширювачем брехні у світі — то як бути, наприклад, із фотографіями постраждалих від війни? Наприклад, портретне фото українського військового Масі Найєма, який втратив око на війні, було видалене як «зображення жорстокості і насилля». Як і чимало фото і відео з українських міст, зруйнованих Росією. 

Meta, Twitter i Google відреагували на нову реальність доповненням своїх політик. Так, у Facebook дозволили бажати смерті й закликати до насильства щодо російських загарбників. Утім за два дні після оприлюднення нових правил їх уточнили, особливо наголосивши, що не можна бажати смерті лідерові російської держави. Українці й надалі отримували санкції, наприклад, за цитування віршів Тараса Шевченка або некролог полеглого на фронті захисника. 

Випадки невиправданого, часом абсурдного блокування дописів українських користувачів у 2022 році так почастішали, що почали ходити легенди про російських модераторів і «московський офіс» Meta, який нібито відповідає за український сегмент соцмережі. Компанія це офіційно спростувала: мовляв, український контент модерується з Варшави. З цієї ж заяви стала відомою кількість людей, які модерують контент у Facebook та Instagram: 15 тисяч. 

Сказати, що техгіганти ігнорують проблеми українців у соцмережах, було б несправедливо. Кілька міжнародних робочих груп, до яких входять українські громадські організації у сфері медіа, працюють над удосконаленням правил соцмереж, які, по-перше, дозволили б українцям безперешкодно ділитися досвідом переживання та свідченнями війни, а по-друге, захистили б сторінки інституцій і медіа, вартих довіри, від масових скарг ботів. Є також ініціативи відкрити в Україні осередки модерації Meta і Google, але компанії з цим не поспішають — щонайменше з міркувань безпеки.

Компанії, що володіють найбільшими соцмережами, постають перед нерозв’язною дилемою. З одного боку їх весь час звинувачують у тому, що вони стають майданчиком для вільного поширення дезінформації та іншого шкідливого контенту, й вимагають зробити модерацію інтенсивнішою й ефективнішою. З іншого боку, їм закидають цензуру й спроби обмежити свободу слова в процесі модерації. Тож соцмережі, з одного боку, перекладають дедалі більше задач на штучний інтелект, з іншого — створюють «людські» інституції для розгляду суперечливих випадків, як от Наглядова рада Facebook. 

Знайти «золоту середину» неможливо, адже уявлення критиків і про шкідливий контент, і про межі свободи слова — різні. Найбільш показове свідчення цього світ побачив на початку 2021 року, коли Facebook, Twitter, Instagram, Reddit, Twitch, YouTube і низка інших платформ заблокували сторінки президента Сполучених Штатів Америки Дональда Трампа. Програвши вибори, Трамп заявив про фальсифікацію і закликав своїх прибічників чинити спротив (пам’ятаєте штурм Капітолію?). Одна за одною соцмережі блокували Трампа, закидаючи йому підбурення до повстання проти законної влади. 

Це рішення критикували як суто політичне, а власників соцмереж звинувачували в лицемірстві й непослідовності. Адже є безліч прикладів, коли на підбурювання до повстання в інших країнах і  на не менш серйозні незаконні діяння модератори мережі дивились крізь пальці, бо йшлося не про американську політику. Наприклад, у Twitter нічого не роблять з українофобією і закликами до насильства на сторінках російських медійників-пропагандистів, вважаючи їх захищеними свободою слова. Десятки офіційних російських YouTube-каналів відкрито закликають до геноциду українців також безкарно. А Facebook у 2014-му знадобився майже рік, аби почати вичищати з платформи пропаганду так званої «Ісламської держави». 

Зрештою Трамп запустив власну соцмережу Truth Social, яка поки що має в тисячу разів меншу аудиторію за Twitter і Facebook, зате жодних заборон. 

Цензури в прямому сенсі слова, тобто централізованого попереднього узгодження (премодерації) публікацій, у глобальних соцмережах немає. Втім правозахисники й активісти рухів, які обстоюють свободу інтернету, закидають соцмережам надмірні утиски свободи слова й вимірюють рівень цензури на платформах. 

Вільне спілкування в соцмережах стає «забороненим плодом». Масове невдоволення модераційною політикою соцмереж навчились використовувати тоталітарні держави, зокрема Китай і Росія. На власній території вони жорстко контролюють і цензурують будь-які комунікації — наприклад, у китайських соцмережах заборонені згадки про Вінні-Пуха, бо з цим персонажем порівнюють лідера держави Сі Цзіньпіна. А росіянам небезпечно навіть лайкати антивоєнні дописи. А ось у ресурсах «на експорт» — китайському TikTok, російських VK і Telegram — політики модерування контенту м’які. Втомлені боротьбою проти несправедливого блокування, медіа, організації і творці контенту з усього світу переходять на ці платформи й насолоджуються свободою. Тим часом російські і китайські компанії (а за ними, можливо, і спецслужби) отримують доступ до їхніх персональних даних, а пропагандисти — аудиторію, якій за потреби можна буде безперешкодно пропонувати фейки й маніпулятивні меседжі. 

При цьому питання відповідальності адміністрації за поширення шкідливого контенту — не тільки дезінформації, а й, наприклад, продажу наркотиків чи порнографії, — стоїть для цих мереж значно менш гостро. На початку великої війни засновник Telegram Павло Дуров заявив, що готовий «обмежити Telegram в Україні і Росії через велику кількість фейків», але невдовзі передумав. У TikTok, натомість, стверджують, що мають десятки тисяч модераторів контенту на додачу до базової автоматичної фільтрації. Відомо, що кожен модератор переглядає сотні сумнівних відео на день. У компанії заявляють, що роблять багато для протидії дезінформації, і лише один із десяти тисяч роликів, опублікованих у TikTok, виявляється «шкідливим». Проте дослідження свідчать, що цього не досить: китайська соцмережа є сприятливим середовищем для поширення маніпулятивного контенту. 

Чи можна подолати фейки в соцмережах. Виправдовуючись за засмічений дезінформацією Telegram, Павло Дуров у лютому 2022 року написав, що компанія фізично не може перевірити всі факти, які поширюються на платформі. Сама ідея відповідальності власника платформи за достовірність інформації, яку поширюють на ній користувачі, виникла нещодавно. Ще у двотисячних про таке навіть не йшлося — «правдивість» здавалася філософською категорією з життя журналістів і науковців, а не інтернет-спільнот. Вперше думка, що соцмережі мали б якось обмежувати поширення фейків, всерйоз пролунала 2016 року після обрання Дональда Трампа президентом Америки і референдуму про вихід Великої Британії з Євросоюзу. Обидві події супроводжувались масовим поширенням брехні в соцмережах, яке, на думку більшості дослідників, вплинуло на результати голосування.  Тоді Facebook і Google почали запроваджувати інструменти перевірки і позначення новин як фейкових (або навпаки — перевірених). Спершу це стосувалося публікацій медіа, які поширювали в соцмережі; не дарма первинним терміном було саме fake news. 

Всерйоз вимагати від соцмереж і месенджерів фільтрувати фейки не лише в медійному, але й у користувацькому контенті стали під час пандемії коронавірусної хвороби, коли дезінформація про вакцини, запобіжні заходи і походження вірусу щодня забирала людські життя. Для протидії фейкам соцмережі застосували різні тактики: 

  • Видалення явно неправдивих дописів, які загрожували громадському здоров’ю; 
  • Блокування користувачів або груп, які поширювали таку інформацію;
  • Штучне зменшення охоплення дописів із певними неправдивими фактами чи ключовими словами (наприклад, «відбілювач» — коли людей масово почали закликати пити хімічний засіб як «профілактику» коронавірусної хвороби);
  • Позначення дописів із неперевіреною чи сумнівною інформацією як не вартих довіри; 
  • Доповнення дописів, що містили певні ключові слова, посиланнями на надійні джерела інформації про протидію коронавірусній епідемії;
  • Демонстрація у стрічці новин дописів і посилань на джерела;
  • Спростування вже опублікованої неправди (дебанкінг);
  • Публікація правдивої інформації, що випереджає фейк (пребанкінг).

Основний тягар пошуку та ідентифікації фейків знову ліг на «плечі» алгоритмів машинного навчання. Найлегше програмі ідентифікувати неправдиву інформацію у коротких текстових повідомленнях — твітах або фейсбук-дописах. Натомість аналіз відео (TikTok, stories, reels, Youtube Shorts, а надто довгі ролики) є складнішим завданням, адже інформація тут може подаватися звуком, картинкою і текстом. Фейкотворці швидко це зрозуміли й зосередились на відеоконтенті. У січні 2022 року низка фактчекінгових організацій звернулась до Google з відкритим листом, назвавши YouTube головним розсадником неправди (навмисної і ненавмисної) про коронавірусну хворобу і закликавши ефективніше працювати над розв’язанням цієї проблеми. 

Власне, співпраця з фактчекінговими організаціями — один із шляхів, якими пішли соціальні платформи за часів спершу коронавірусної пандемії, а потім — російської глобальної дезінформаційної навали, що супроводжувала вторгнення в Україну. Зокрема Meta залучає десятки організацій із різних країн для виявлення й позначення шкідливого контенту національними мовами — вони позначені на інтерактивній мапі. В Україні такими партнерами є StopFake і VoxCheck. Професійні локальні фактчекери дієвіше виявляють і знешкоджують фейки, особливо тими мовами, які ще не досить добре «вивчив» штучний інтелект. Але ресурси фактчекерів обмежені, а на зміну спростованим неправдивим повідомленням приходять інші. Тож гонитва за фейками у соцмережах — це невпинна боротьба, в якій навряд чи можлива остаточна перемога. Найдієвішим захистом від фейків залишається високий рівень медіаграмотності й критичного мислення. 

Практичні поради

  • Знайдіть час і почитайте правила соціальних мереж і сервісів, якими користуєтесь регулярно. З’ясуйте, чого не можна робити і якими можуть бути наслідки порушення. Незнання правил не звільняє від відповідальності, а дотримуватись їх ви пообіцяли в момент реєстрації (так-так, та сама галочка, яку ми всі ставимо, не читаючи текст). 
  • Якщо ви отримали санкцію від соцмережі — обмеження функцій, видалення контенту абощо, — не гнівайтесь: алгоритм цього не оцінить. Скористайтесь формою для оскарження й опишіть докладно і чітко, що сталось і чому, на вашу думку, ви не порушили правила. Якщо можете, краще пишіть англійською — штучний інтелект «розуміє» її найкраще з усіх мов. 
  • Якщо можете, уникайте соціальних платформ, які належать компаніям із тоталітарних держав. Хтозна, як їхня адміністрація скористається вашими даними. В усякому разі не узалежнюйтесь від таких ресурсів — наприклад, не варто зберігати тут свою базу контактів або унікальний контент, не зробивши копії. Якщо адміністрація цих ресурсів порушить ваші права, навряд чи хтось в Україні зможе вас захистити. 
  • Допомагайте фактчекерам — повідомляйте про дописи, що містять дезінформацію. Як це зробити у найпоширеніших соцмережах, описано на сторінці 48 цього посібника. У Telegram на будь-яке повідомлення можна поскаржитись через функцію Report:

Дезінформації у переліку типових порушень тут немає, тому, якщо йдеться про фейк, доведеться використовувати пункт Other.

Що треба запам’ятати

  • Соцмережі модерують переважно комп’ютерні програми, а не люди. Вони не мають людських упереджень і зазвичай реагують на скарги, а не самі шукають порушників. 
  • Соцмережі намагаються адаптувати свої правила до реалій російської агресії в Україні, але в них поки що виходить так собі. 
  • Розв’язати суперечність між правом на вільне висловлювання і потребою в обмеженні шкідливих інформаційних впливів неможливо, це вічна боротьба. 
  • Соціальні платформи з тоталітарних держав пропонують оманливу свободу, а насправді створюють простір для вільного поширення дезінформації. 
  • Машини не можуть подолати фейки в соцмережах без допомоги живих людей — фактчекерів.

Словник

Координована неавтентична поведінка — дії групи сторінок чи користувачів мережі (справжніх або штучно створених), які прагнуть справити інформаційний вплив, поширити дезінформацію абощо. 

Дебанкінг — активне спростування неправдивої або оманливої інформації після її публікації. 

Пребанкінг — «спростування на випередження», коли аудиторії повідомляють про поширення неправдивої інформації заздалегідь (звісно, водночас розповідаючи правду). 

Фактчекінг — перевірка фактів, викладених у повідомленні, і визначення неправдивих повідомлень (фейків), маніпуляцій, пропагандистських меседжів і наративів тощо. 

Література і корисні джерела

Тест