Культ ненависті в інтернеті. Чи зможуть війни в соцмережах перетворитися на реальні?

За останні роки світ неймовірно змінився. Бурхливий розвиток IT-технологій викинув людство на новий рівень цивілізації, а інтернет став одним із основних джерел інформації для українців. 

Стрімкий розвиток соцмереж суттєво впливає на те, як людство сприймає інформацію. А більшість новин люди отримують не з традиційних медіа, а саме із соцмереж.  

Наприклад, фонд Thomson Reuters в своєму дослідженні споживання та сприйняття медіаконтенту в Україні стверджує, що пошукові системи та соціальні медіа — два найпопулярніші джерела новин та інформації в Україні. Щотижня 80% респондентів використовують пошукові системи, а 72% — соціальні мережі.  

За даними дослідження Інституту масової інформації, українські онлайн-медіа кожну четверту свою новину беруть саме з соцмереж. Новини також часто доходять до людей через призму того, як це побачили так звані інфлюенсери, тобто власники популярних акаунтів у соцмережах. Перш ніж дійти до кінцевого споживача, новини обвішуються додатковими, а іноді й зовсім неправдивими подробицями.  

По суті, наш інформаційний простір перетворюється на такі собі неконтрольовані джунглі, де інформація в основному розповсюджується за допомогою пліток та чуток.  

Новий цифровий світ

Про те, як протистояти брехні в інтернеті, традиційні медіа періодично публікують різноманітні поради та інструкції. Але не всі до них дослухаються, адже, на думку деяких експертів, далеко не у всіх мешканців цієї планети є схильність до критичного мислення.

В цьому контексті хотілося б звернути увагу на ще одну проблему в інформаційній сфері, яка є дуже серйозною загрозою не лише для мешканців України, але й для людства взагалі.

Це проблема зростання рівня агресії  та поляризації суспільства під впливом соціальних мереж.

Частково про цю проблему йдеться у документальному фільмі під назвою “Соціальна дилема“. Ця стрічка розповідає про негативний вплив на людство алгоритмів соціальних мереж. Автори стрічки цитують в ній різних фахівців IT-індустрії, які свого часу були дотичні до розробки найпопулярніших соцмереж світу. Деякі з героїв фільму залишили роботу в корпораціях саме з етичних міркувань.

Фахівці в цьому фільмі звертають увагу на те, що алгоритми соцмереж затягують користувача “в найглибші кролячі нори”, де показують йому лише те, що він хоче чути. Фейкові новини в соцмережах поширюються в шість разів швидше, ніж перевірена інформація, а прихильникам різноманітних теорій змов алгоритми соцмереж пропонують приєднатися до все більшої кількості груп з такими теоріями.

Рені Діреста, дослідниця інтернет-обсерваторії Стенфордського університету каже, що соцмережі дозволяють поширювати маніпулятивну інформацію з феноменальною легкістю і без суттєвих затрат.

Якщо мова йде про маніпуляції та розповсюдження брехні щодо цілих етнічних або релігійних груп, то ця брехня може стати небезпечною для великої кількості людей не тільки в соцмережах, а й у реальному житті, стверджують автори фільму.

“За допомогою алгоритмів соцмереж одна країна може розхитувати ситуацію в іншій навіть не притинаючи її фізичних кордонів”, – каже Тристан Харріс, колишній спеціаліст етики дизайну в Google.

Головним наслідком, який несе в собі подальше безвідповідальне використання таких алгоритмів, ексдиректор з монетизації компанії “Фейсбук” Тім Кендал називає реальні громадянські війни в різних країнах.

Чим налякані ці IT-фахівці та науковці? Який вплив це все має на ситуацію в Україні? Спробуємо розібратися на конкретних прикладах.

Одним з чинників, який суттєво впливає на накопичення ненависті та агресії у відвідувачів соцмереж, є мова ворожнечі. Науковці називають мовою ворожнечі висловлювання, спрямовані проти різних етнічних, релігійних та інших соціальних груп населення.

Всі інформаційні баталії, як в мережі ще називають “холівари”, часто містять в собі різноманітні прояви мови ворожнечі. Яскравий приклад останніх місяців в Україні – постійна словесна битва в соцмережах між “вакцинаторами” та “антивакцинаторами”.

Наприклад, в соцмережі Facebook є хештег #антивакси, під яким прихильники вакцинації критикують противників вакцинації. В цій самій соцмережі існує також хештег #вакцизм, яким маркують свої матеріали противники вакцинації. І в тому, і в іншому випадку під цими хештегами є прояви ненависті до цілої групи людей, що по суті і є мовою ворожнечі.

Окупація Росією Криму і Донбасу вивела такі прояви ненависті на більш масштабний і жорстокий рівень. Явище ехокамер, про яке останнім часом почали говорити науковці, додає цій ненависті ще більшого впливу та розповсюдження.

Тунелі ненависті

Якщо говорити про загрози для українців, то в першу чергу варто звернути увагу на російськомовний сегмент інтернету. Ганебні пости із закликами до знищення українців висять там роками.

Найбільше ненависті щодо українців наразі існує в підконтрольній російській владі соцмережі ВКонтакті. І хоча, після блокування на території України соцмережа суттєво втратила свою популярність тут, ненависть з неї нікуди не поділася. Ця ненависть продовжує труїти свідомість росіян та жителів окупованих територій України, які мають до неї постійний доступ. В цій соцмережі українців називають “хохлами” та іншими більш зневажливими епітетами з використанням обсценної лексики.

За запитом “смерть хохлам” ця соцмережа видає посилання на 8 акаунтів, де заклик до знищення українців використано замість імені профілю. Також у стрічці пошуку можна побачити 11 спільнот, об’єднаних цим закликом, 131 відео та навіть 6 пісень, де це висловлювання може зустрічатися.

Водночас інші соцмережі, котрі належать американським корпораціям, також мають багато пабліків і акаунтів з мовою ворожнечі. Власники цих соцмереж або не хочуть, або просто фізично не встигають подолати всі ці прояви. Справа ускладняється тим, що керівництво та більшість працівників цих сервісів знаходиться не в Україні і навіть не в Росії, а розпізнати мову ворожнечі, якщо не володієш мовою автора дописів, доволі складно, а в деяких випадках просто неможливо.

Яскравий приклад проблеми щодо бездіяльності власників соцмереж в питаннях розпалювання ворожнечі – це позов етнічної групи рохінджа до власників “Фейсбуку”.

Позивачі вимагають від власників цієї мережі компенсації понад 150 мільярдів доларів (приблизно 4,11 трильйона гривень), стверджуючи, що платформи фейсбуку пропагують насильство проти переслідуваної меншини.

Позивачі звинувачують компанію в тому, що вона дозволила “роками продовжувати поширення ненависної та небезпечної дезінформації”.

Це саме можна сказати і про ненависть щодо українців в російськомовному сегменті соцмереж. І це стосується не тільки фейсбуку. Інші соцмережі теж часто заплющують очі на ненависть.

Токсична творчість

Майже в усіх соцмережах є можливість поскаржитися на образливий контент, але блокування такого контенту, навіть після скарг, виконують не завжди.

Ось, наприклад, пісня під назвою “Хохли” російської групи “Воровайки”. Ця пісня сповнена ненависті до українців. Зокрема, там є такі слова:

“Что же там творится в голове чубатой, дать бы по загривку дуракам лопатой”, – співають “Воровайки” про українців. І далі по тексту погрожують українцям від імені росіян: “Если будет надо, заберем Одессу”. 

Ця пісня залита на декілька акаунтів в ютубі. На одному з них більш ніж 300 000 переглядів. На іншому ще 110 000.

Авторка цього тексту відправила в ютуб скаргу на пісню як мову ворожнечі, та блокувати її сервіс відмовився і запропонував звернутися до суду.

Але судитися з ютубом за пісню – скоріше за все марна справа. Сервіс працює за законами Америки, ця країна не воює з Росією і довести, що подібні пісні – це загроза для певної етнічної групи, буде майже неможливо.

Вся ця бездіяльність власників соцмереж веде до того, що протилежна сторона збройного конфлікту також починає розпалювати зворотню ненависть. Зокрема і у піснях. Наприклад пісня гурту Пирятин під назвою “Арта” містить ненависть до росіян, яких автори пісні називають “кацапи” та “москалі”. І вся ця ненависницька творчість звісно ж має своїх прихильників. Наразі у пісні більш ніж мільйон переглядів тільки на офіційному акаунті групи в ютубі.

Якщо розглядати цей контент в кожному окремому випадку, він може здатися пересічному громадянину зовсім не загрозливим. Але такого контенту в тому ж самому ютубі та в інших соцмережах вже критична кількість.

Мова ворожнечі діє на підсвідомість людей саме через контекст. Навіть якщо стаття не містить спеціально вигаданих слів, розгляд всього контенту вкупі дає розуміння, що на меті автора – саме розпалювання ненависті.

На жаль, ніхто з приватних власників соцмереж не зобов’язує модераторів читати увесь контент, який щохвилини постять в соцмережі мільйони людей по всьому світові. Формально модерація контенту наразі ведеться через пошук спеціальних слів, які боти мають розпізнати і потім прийняти автоматичне рішення про блокування такого контенту. Живі люди для аналізу текстів теж залучаються, але не в тій кількості, яка потрібна. Адже масштабна та кропітка робота з аналізу контенту живими людьми зробить існування соцмереж економічно невигідним.

Словники ворожнечі

Для того, щоб спосіб автоматичної модерації контенту штучним інтелектом працював ефективно, потрібно постійно розробляти, доповнювати та навчати ботів шукати слова з ненавистю на різних мовах світу. Адже професійні хейтери вдаються до різноманітних фокусів, щоб ненависницький контент не видалявся автоматично.

Зокрема, замість деяких букв у слова з ненавистю вставляють символи, змінюють або пропускають одну букву в таких словах. Ненависницький зміст тексту від цього не змінюється, але робот модерувати це вже не може. Ось, наприклад, варіант написання слова “хохлы” в соцмережі твітер:

Іноді хейтери вигадують нові слова, які створюються спеціально, щоб розпалювати ненависть. Дослідники Кримської правозахисної групи збирають такі слова в російськомовному сегменті інтернету та використовують ці словники для проведення подальших досліджень ситуації з мовою ворожнечі в мережі.

Дуже шкода, що власники соцмереж не досліджують цю проблему належним чином. Тому що подібних слів навіть в американських соцмережах доволі багато. Наприклад, українців в російськомовних соцмережах тепер називають не тільки “хохлами”. У Твітері, фейсбуці та інстаграмі з тік-током можна знайти ненависть щодо українців також під десятком інших спеціально вигаданих для ненависті слів, таких як “шароварники”, “хохлотвари”, “укромрази” та подібних.

Водночас ненависть щодо росіян та жителів окупованих територій України розпалюється в основному в україномовному сегменті інтернету, і тут теж є свої словники ненависті зі спеціально вигаданими словами. Наприклад, жителів окупованих територій хейтери називають “ватнорилі” та “свинособаки”.

Кількість ненависницького контенту постійно зростає, і безкарність для його розповсюджувачів може мати фатальні наслідки. Людина з максимумом ненависті в голові рано чи пізно вийде на вулицю і почне вбивати тих, кого вона вже давно люто ненавидить в соцмережах. Онлайн спілкування знімає з людини всі норми й правила, руйнує моральний компас і розв’язує язика.

Погодьтеся, мало хто зможе підійти на вулиці до людини та почати ображати її або кричати на неї матом просто за зовнішній вигляд чи вимову. Зате в соцмережах це нормальна практика. Адже на вулиці до порушника може підійти поліція і оштрафувати за хуліганство. В соцмережах така сама поведінка безкарна.

При цьому психологи кажуть, що від кібербулінгу люди страждають не менше, ніж від звичайного психологічного насильства. Це може призвести навіть до самогубства. У випадку з мовою ворожнечі відбувається цькування та моральне знищення цілих етнічних та соціальних груп людей. По суті це та ж сама війна, яка вже йде в головах людей.

Як захистити людей від хейту?

Як реагувати суспільству та державам на ці виклики – однозначної відповіді поки що немає. Різні країни намагаються розробляти різні механізми протидії. Але приватні корпорації, які наразі, по суті, керують світовим інформаційним простором, поки не дуже охоче йдуть на контакт і як можуть опираються різноманітним способам державного регулювання.

При цьому деякі країни з диктаторськими режимами хочуть використати таке регулювання для повного обмеження свободи слова та переслідування активістів. Про боротьбу з мовою ворожнечі в таких випадках зовсім не йдеться, а це явище просто стає приводом для заборони соцмереж та месенджерів, котрі не подобаються диктаторам.

Наразі способи протидії масштабним проявам мови ворожнечі здебільшого існують у вигляді загальних рекомендацій науковців для технологічних компаній, урядів країн світу та громадянського суспільства.

Наприклад у звіті Ради Європи йдеться про необхідність надавати дослідникам дані про ініціативи технологічних компаній щодо підвищення якості інформації. Також науковці радять власникам соцмереж забезпечити прозорі критерії для будь-яких алгоритмічних змін, які знижують рейтинг контенту.

Дослідники закликають корпорації боротися з автоматичним поширенням та модерувати належним чином неангломовний контент. Також важливо працювати над рішеннями, спеціально спрямованими на мінімізацію впливу “бульбашок” і фільтрів, які створюють для аудиторії викривлену картину реальності.

Національним урядам та громадянському суспільству рекомендують проводити дослідження розповсюдження шкідливого контенту, популяризувати стандарти журналістики та розповідати населенню про загрози поширення ненависницького та неправдивого контенту.

Ці рекомендації мають бути втілені в життя якомога швидше, адже в контексті війни України з РФ неконтрольована і безкарна ненависть в соцмережах тільки ще більше роздмухує збройний конфлікт і заглиблює прірву між громадянами України, які живуть по різні боки лінії розмежування.

Саме тому українська влада має зробити все можливе, щоб на державному рівні сприяти дослідженню цієї проблеми, вести перемовини з власниками соцмереж, месенджерів та пошуковиків, щоб вчасно знаходити та видаляти ненависницький контент. Крім того, держава повинна розпочати активно сприяти розвитку ініціатив, котрі за допомогою штучного інтелекту  та інших IT-технологій можуть зробити виявлення такого контенту більш ефективним.

Журналістам, активістам, а також різноманітним блогерам та іншим агентам інформаційного впливу треба бути більш відповідальними за кожне написане слово, не забувати про права людини, толерантність та етику, адже деякі слова можуть завдати набагато більше шкоди, ніж звичайна зброя. Пригадайте хоча б вплив “радіо Тисячі пагорбів” на геноцид народу тутсі або загибель мільйонів євреїв під впливом пропаганди Геббельса.

Автор: Ірина Сєдова; ZMINA