Интервенции в мозги: ботов все больше, правды все меньше

Сегодня в мире главными являются не информационные потоки, а системы удержания внимания. Избыток информации сделал многое лишним, поэтому к “своей и нужной информации” надо искусственно подгонять людей. Это тоже делают алгоритмы, порождая нужное поведение пользователей. Утрируя можно сказать, что человек тоже становится частью техгиганта, поскольку происходит резкое сужение разнообразия его поведения, сделанное в пользу Фейсбука или Гугла.

К. О’Нейл рассказывает: “Биг дата в основе своей является разделением на победителей и проигравших. Биг дата профилирует людей. У нее есть все виды информации о них – потребительское поведение, все имеющееся в официальных источниках, голосование, демография. Она профилирует людей и затем сортирует их на победителей и проигравших разными способами. Вас можно убедить как избирателя или вас нельзя убедить как избирателя? Будете ли вы уязвимы к этой рекламе или нет?

У вас есть оценки по множеству параметров. Обработка их людьми, обладающими такими моделями, ведет к выигрышу для мира, поскольку чем больше информации, тем лучше. Когда, конечно, то, что происходит, это сфальсифицированная система, основанная на отслеживании и асимметрии информации, когда люди, имеющие власть, обладают большими объемами информации о вас, чем вы о них.

Они пользуются ею, чтобы оценить вас и затем или отказать вам, или предложить какие-то возможности. Одна из вещей, на которую я обратила внимание в своем исследовании, состоит в том, что бедные люди, люди другого цвета кожи, располагают меньшим временем, чтобы быть внимательнее к тому, как информация о них собирается, поэтому они особо уязвимы перед вредными алгоритмами. Но и многие из нас анализируются многими и многими алгоритмами, многие из которых нам даже невидимы. Когда бы мы не зашли онлайн, покупали страховку, обращались за займом.

Политическая реклама является одним из наиболее агрессивных видов из всех существующих.  <…> Наибольшее непонимание есть у людей, считающих, что алгоритмы являются честными, объективными и помогающими. О них не следует думать как об объективных, поскольку собранная информация необъективна, а люди, которые сделали эти алгоритмы, тоже не объективны. Но самым важным является то, что они должны нести прибыль тем, кто ими обладает. Эти люди определяют успешность и часто это делается  в терминах прибыли.  А прибыль для этой персоны не всегда означает нечто хорошее для цели этой системы оценивания” [1].

При этом бизнес-модели этих техногигантов строятся на недопущении конкурентов. Например,  Google и Facebook удерживают 80% рынка дигитальной рекламы в Великобритании [2]. У Гугла также 90% рынка поисковой рекламы. Это тип рекламы, который опирается на ваши поисковые вопросы [3]. Реклама от Гугл появится также в Gmail и YouTube.

Это “мирные” применения информационной сферы, но точно так развились и “военные”. Информационные интервенции, проведенные в нужное время, могут создавать и усиливать политические конфликты, порождать кризисы из-за поляризации общественного мнения.  Например, о напряженной работе так называемых петербургских троллей пишут так [4]:

– “Между 2013 и 2018 кампании Агентства интернет исследований в  Facebook, Instagram и Twitter достигли десятков миллионов пользователей в США. Более 30 миллионов пользователей между 2015 и 2017 делились постами Агентства интернет исследований в  Facebook  и Instagram со своими друзьями и семьей, ставили лайки, реагировали и комментировали их. Пики в рекламе и деятельности часто соответствуют важным датам в американском политическом календаре, кризисам и международным событиям. Деятельность Агентства интернет исследований началась в 2013 с  Twitter, но быстро трансформировалась в многоплатформную стратегию, включающую  Facebook, Instagram и YouTube. При этом наиболее распространенным вариантом являются естественные посты, а не реклама”;

– “Российское Агентство интернет исследований начало порождать дезинформацию для американских избирателей с 2012, используя те же техники, которые применялись к своим собственным гражданам и гражданам соседних стран Восточной Европы. Twitter давал посты на многих языках. Некоторые из аккаунтов были “перенацелены. Например, некоторые сместились с индонезийского для индонезийской аудитории на английский для американской. Хотя Агентство нацелено на несколько разных стран и языковых сообществ большая часть его продукции написана на русском и английском”.

Все это интервенции в мозги, призванные ввести вариант “войны” в массовом сознании между разными конкурирующими представлениями. Причем для “атакующих” важен сам факт “внутренней баталии”, а не то, кто в ней победит. Разделенное общество исходно становится более слабым, что и является целью таких интервенций.

Один из таких “кремлеботов” петербургской фабрики троллей, трудившийся на американском направлении, так рассказывает о характере своей работы: “У каждого отдела есть несколько кураторов, которые вводят в курс, обучают, помогают на первых порах, корректируют работу. Мой куратор сказал: “Твое творческое задание – прочитать статью на иностранном новостном сайте, понять проблематику, пересказать ее коротко и предложить четыре-пять комментариев на болезненные места этой статьи”. Каждому сотруднику выдается большое количество сим-карт, на них заводятся аккаунты.

Причем аккаунты заводятся с разными прокси по принципу: местный житель, госслужащий, старик, молодой, женщина, темнокожая женщина… Побольше персонажей. Работа незамысловатая, 12 часов в день сидеть, читать статьи, писать комментарии, их должно быть не меньше ста, а лучше 120 в день. Я занимался новостными сайтами, другие – более серьезными: “Нью-Йорк Таймс”, “Вашингтон Пост”. Кто-то занимался фейсбуком, кто-то YouTube. И так круглосуточно, днем и ночью. Нужно было писать комментарии, которые вызывают реакцию, должна была развиваться дискуссия” [5].

Еще конкретные детали: “Весь наш этаж был иностранный. Но в другие кабинеты не пускали. У нас сидело человек 25, большой кабинетище, похожий на компьютерный клуб. Были столы, где сидели ребята на фейсбуке, человека три-четыре писали эссе. Основная масса – это мы, новостники. Были топовые, типа суперэксперты, человек пять, которые запредельно хорошо знали язык и могли сделать свою работу часа за четыре. Напротив нас был отдел, где работали с фотографиями. Ребята делали всякие мемы, бред, который привлекает внимание. Их задача была управлять трафиком, чтобы народ валово переходил за счет мема или привлекающей картинки на какую-нибудь ссылку. Огромный русскоязычный отдел был разделен по регионам – Россия, Казахстан, Украина: там говорили, что Россия молодцы, а Крым наш” (там же).

Причем интересно, что при работе на Америку нельзя было кричать “Россия – молодцы”, действовать было можно только косвенно: “Российская тема поднималась очень непрямолинейно. Например, есть какая-нибудь история про Путина, можно было ответить так: ребята, посмотрите, вот в Америке ничего не работает, а даже в России, непонятной стране, уже есть то-то и то-то. Но не напрямую: “ага, Россия – круто”. С чего бы вдруг человек из Аризоны стал топить за Россию?”. И это вполне резонно…

И о типах заданий, в результате чего приходилось писать от имени совершенно разных персонажей: “Нужно было создать, например, ветерана, участвовавшего во вьетнамской войне или в иракском конфликте, социального работника, очень толстую женщину, сидящую на пособии, но она типа боди-позитив, пацана, который собирается поступать в колледж, чернокожего, мексиканца. У меня была даже парочка индейцев, которые писали, что вот вы, сволочи, нас всех перебили. Под реформу с гей-браками обязательно нужно было завести кучу гей-френдли аккаунтов и, наоборот, консерваторов. Была таблица, кто является открытым геем во власти. Этим можно было пользоваться: ребята, вы что, у вас в правительстве такое! А другие должны были говорить: нет, у каждого есть права” (там же).

При множестве работающих возникают и неожиданные столкновения при создании дискуссий: “Была инструкция: этим не отвечать, потому что это свои. Какое-то время это держалось, потом опять забылось. Бывали смешные ситуации. Кто-то начинает в углу ржать: “Это я под этим именем, зачем ты мне отвечаешь?” Старались договариваться. Сидишь по 12 часов перед экраном, тебе надо всю эту фигню читать. График работы – два дня через два, но можно было меняться сменами. 5 дней работаешь по 12 часов и на четвертый уже мало что понимаешь. Забавно, что у некоторых ребят наступало производственное отчуждение. Я тоже такое словил пару раз: начинаешь верить в то, что все делаешь по-серьезному, какие-то споры возникают, моральные дилеммы. У меня реально голова начинала кипеть. Я поэтому оттуда и свалил через 4 месяца”.

Чем сильнее политическое напряжение между странами, тем интенсивнее становится информационный конфликт. Перед нами проходит очередная холодная война, поскольку она нацелена на разум, а не на тело человека.

Вот рассказ еще одного “тролля” об особенностях работы: “Много отделов, в каждом кабинете сидят приблизительно по 15 человек. Один отдел занимается YouTube, другой отдел занимается “ВКонтакте”, третий фейсбуком и так далее. У каждого отдела свой руководитель. В нашем отделе через рабочий телеграм-чат были указаны площадки, на которых стоит работать: RT, РЕН-ТВ, “Известия”, а также оппозиционные: “Новая газета”, Радио Свобода, даже “Сталингулаг”, хотя там, как правило, банили быстро. По этим площадкам начинали работать с разных аккаунтов. Для создания этих аккаунтов существует огромная стопка сим-карт, которая пополняется” [6].

О числе работающих на фабрике: “Точно не знаю, я во всех отделах не был, к тому же они находятся в разных зданиях. Не меньше 150 человек в дневную смену только в одном здании, а если в целом брать, мне кажется, до тысячи человек. Одни люди скидывают данные, другие эти данные перекидывают по отделам, третьи проводят собрания, на которых рассказывают, с каким тезисом кому следует работать, а чего делать не надо, что следует освещать, на чём ставить акценты” (там же).

По сути, на выходе индустриальный информационный поток. И поскольку контент его системен, а не случаен, четко соответствует заданиям, то сила этого потока многократно увеличивается. Кстати, были интервью “разнорабочих”, но особо не было интервью как бы социальных инженеров, которые ставят им задания.

И вот еще подсказка – как определять троллей: “не всякий пропутинский комментарий оставляют тролли. У нас достаточно убежденных людей, так называемых ватников. Если есть подозрение, что перед вами тролль, посмотрите на аккаунт этого человека. Как правило, у троллей закрытые аккаунты – есть установка их закрывать. Тролли для своих аккаунтов используют фотографии, спертые у кого-то в “Одноклассниках”. Воруют фотографии реальных людей, делают левые имена, вставляют эти фотографии, но, отзеркаливая, чтобы нельзя было найти через “Яндекс. Картинки”, либо как-то обрабатывают в цвете, например, делают фотографию черно-белой, так тоже сложнее найти. Есть ребята, которые работают против “фабрики троллей”, они отзеркаливают, ищут фотографии, находят оригинал в интернете и помещают в комментариях: “Вот, фотографию украл, придурок. Давай я этому человеку напишу, покажу твою фотографию. Не хочешь объяснить, кто ты и что ты здесь делаешь?” (там же).

И об общей атмосфере: “В коллективе откровенно про того же Путина шутят, и почти все понимают абсурдность того, чем занимаются, этого вылизывания власти. Но работа приносит деньги. Это как врачи работают с трупами, со временем начинают шутить, расслабляться, разряжать обстановку. Через некоторое время я перестал чувствовать напряжение, но потом совесть начала жрать. Приходишь с работы задолбанный. У меня от угрызений совести и стресса нагрузка постоянно была, я уходил оттуда с ощущением мигрени. Видимо, какая-то психическая защита, организм должен себя как-то остужать, я стал чаще смеяться над этим. Человеку, который не видел, как это работает, сложно представить, что взрослые люди сидят и занимаются откровенной херней” (там же).

М. Оленичев, юрист, представлявший интересы бывшей сотрудницы «Фабрики троллей» Ольги Мальцевой, которая подавала иск против своих бывших работодателей, так формулирует цели этой работы: “Судя по многочисленным публикациям, связанным с “Фабрикой троллей”, и с показаниями в суде, можно сделать вывод, что эта работа была направлена на формирование положительного имиджа российской власти и на поддержку лояльности действующего президента”  [7].

Это есть или может быть во всех странах. Но скорее в кризисные периоды, когда же это становится постоянной работой, тем более направленной на другие страны, это становится одним из вариантов информационной войны, что выходит за рамки нормы, требуя ответного реагирования.

И еще: “Не секрет, что во время выборов в Бундестаг осенью прошлого года “Фабрика троллей” также пыталась участвовать в формировании умонастроений граждан Германии. Но тогда Facebook пошел навстречу германскому правительству, и перед выборами стал удалять фейковые аккаунты, и путем выявления стал препятствовать их распространению. Поэтому Запад очень заинтересован в том, чтобы иметь информацию о том, как функционирует “Фабрика троллей”, и как на нее можно воздействовать” (там же).

Л. Савчук рассказала, как фабрика троллей борется со своими противниками: “Я могу об этом судить, потому что каждая моя акция сопровождается информационной кампанией со стороны троллей. Это все продуманно, это все трудоемко. Сидят целые отделы, которые производят картинки с карикатурами на тех, кто им противостоит. Это сопровождается кампаниями в крупнейших прокремлевских СМИ, которые подключаются к этой травле. Плюс, это сопровождается угрозами” [8].

Создается массовый информационный поток, задачей которого является влияние на общественное мнение, причем чужой страны. И это интенсивная работа сотен людей, которая не может оставаться незамеченной.

Савчук также говорит: “Когда обычный человек приходит на “фабрику”, у него висит уже готовое задание на компьютере. У него есть список тем, по которым “тролли” работают каждый день. США там – в первой пятерке или тройке, это одна из главных тем в любое время. Если это комментаторы в СМИ или социальных сетях, то они получают в устном виде свои задания. Эта “фабрика” – не одна. Структура на Савушкина, сейчас они переезжают, – самая известная. Люди, которые работали в Москве, не так раскрыты, как здесь в Петербурге. Возможно, это самая большая “фабрика троллей”. Есть люди, которые работают по домам, удаленно. Поэтому сказать, что на этой фабрике была примерно тысяча человек в штате, этого недостаточно. Но такие цифры назывались людьми, которые там до недавнего времени работали” [9].

Ничего не может остаться в тайне, когда таком проекте работают массово работают простые гражданские люди. Тем более, когда есть не только властный взгляд на события, но и оппозиционный.

Л. Савчук разъясняет: “Мы основали движение “Информационный мир” (в противовес понятию “информационная война”), потому что нас очень беспокоит в принципе пропаганда в России. Тролли – это часть проблемы. Их работа отличается тем, что они скатываются к экстремизму, пользуясь тем, что у них закрыты лица и имена, у них нет ограничений. То, за что стали у нас наказывать обычных людей, они делают каждый день и каждую ночь. Мы будем призывать их к ответу, основываясь на документах, которые мы получили в ходе суда”  [10].

Л. Савчук говорит о фабрике по результатам судебного разбирательства: “Там производится работа по написанию платных комментариев и прочего контента. И еще подтвердился факт, что там работают тролли, потому что даже их юрист оказался троллем. И давая оценку нашим требованиям в суде, он комментировал их так, как это обычно делается в интернете”  [11].

Как это ни странно, но определенных успехов они добиваются: “В октябре 2015 года Савчук при поддержке юристов Команды 29 подала в прокуратуру Петербурга жалобу с требованием провести проверку фирмы. В жалобе она описала нарушения трудового законодательства компанией и попросила прокуратуру проверить, как структура ведет бухгалтерию, производит выплаты страховых взносов, насколько в помещениях соблюдают правила противопожарной безопасности и пользуются ли сотрудники лицензионным ПО. За это время «фабрика троллей» успела сменить адрес и юридической лицо. Теперь компания называется «ТЕКА», а офис с улицы Савушкина переехал в бизнес-центр «Ильич» на Белоостровской улице. Савчук просит прокуратуру провести комплексную проверку и по обоим адресам. В апреле 2016 суд частично удовлетворил требования Савчук, но она намерена добиваться удовлетворения всех требований, обозначенных в иске” [12].

И тут даже важен не сам результат, а гласность, которая возникает в процессе подобных судебных разбирательств.

В интервью “Новой газете” Л. Савчук рассказала, что пошла работать в Агентство интернет исследований специально: “Я пошла туда не по убеждениям, а с диверсионным планом. Это было в декабре. Я наткнулась на объявление о приеме на работу в «АИИ». Посоветовалась с друзьями, и мы приняли решение, что я устроюсь, чтобы изнутри изучить, как это работает, и понять, как с этим бороться. 2 января я вышла на работу и с первого же дня начала собирать информацию, копировать документы, наблюдать за тем, что там происходит. Десять лет я работала журналистом-фрилансером, у меня есть опыт. Туда не я одна внедрялась, и другие журналисты пытались. Мое отличие в том, что я там продержалась два месяца. Но с самого начала я была внедренным агентом, а не полноценным троллем. Я лишь играла роль сотрудника. Это было интересно. Но я каждый день пребывала в шоке, понимая, какая это масштабная работа, как много троллей, даже если брать только эту фабрику. Меня шокировали размах этой работы и полная безнаказанность. Я иногда ходила по коридорам и останавливалась от удивления. Стояла и приходила в себя.  [Работает там] около 400 человек. В здании на улице Савушкина — четыре этажа, длинные коридоры, много кабинетов. В каждом кабинете работает много людей — это разные отделы. Не все из них мне удалось рассмотреть поближе. Но я поняла, что тролли работают во всех социальных сетях. Я работала в отделе ЖЖ. Плюс был отдел комментирования в СМИ, секретные редакции фейковых новостей, где люди сидели и переписывали новости в нужном духе. Также какие-то ролики для YouTube снимались постоянно. Рисовались картинки… То есть действительно —это фабрика по производству лжи” [13].

И еще более подробно о постановке задач: “В отдел ЖЖ, где я работала, каждый день приходит техзадание. Там прописано, что должно быть, в каком виде, кого хвалить, кого ругать и к какому выводу читателей подводить. Потому что блогеры пишут достаточно развернутые посты. А комментаторам в СМИ не приходит никакое задание. Им просто объясняют вслух: какой тезис мы сегодня несем. И они просто регистрируются и пишут, регистрируются и пишут…” (там же).

То есть коллективный интенсив должен побеждать случайный характер энтузиазма одиночек, которые обязательно будут проигрывать такое “соревнование”, поскольку оно исходно является нечестным. Против одного человека начинает работать целый коллектив. Причем все скрыты за псевдонимами, а ощущая себя анонимами, могут не стесняться в средствах атаки.

Вот рассказ О. Мальцевой, позволяющий понять тематическую направленность работы тролля. Она работала отделе блогов: “Писали по 12 постов в день. Вначале было по десять, а потом стало по 12, на политические темы, и комментарии различные. Комментарии были как на социальные, так и на политические темы. Любые можно было писать. Писали в ЖЖ. Это было распространение в СМИ информации в определенном ракурсе. В котором было нужно. Распространение определенного мнения о политической обстановке в стране и на Украине. Там во всех отделах рассматривается и украинская история, и Россия, и Сирия. На тот момент, наверное, Украины было все-таки больше по объему, но в какой-то период, когда в Сирии обострялась обстановка, очень много было Сирии. Но больше все же было по Украине” [14].

В направлении США Агентство трудилось за две стороны, разжигая внутренний конфликт. Как-то писали, что один человек из Санкт-Петербурга мог выводить две демонстрации сразу, причем друг против друга. За мусульман и против. За иммиграцию и против… Но всякий такой конфликт каждый раз будет кому-то выгоден, поскольку тем самым страна теряет единство. Это можно признать атакой на идентичность.

Сегодня накоплен большой объективной информации о когнитивных различиях между либералам  и консерваторами. То есть это не просто политические предпочтения, они базируются на когнитивных различиях.

Исследователи пишут: “В десятках бихевиористских исследований консерваторы более структурированы и настойчивы в своих представлениях и подходах к принятию решений, что отражается в больших оценках по психологическому измерению в порядке, структуре и завершении. Либералы, наоборот, подчеркивают высокую толерантность к неоднозначности и сложности, а также большую открытость новому опыту. Учитывая, что эти ассоциации между политической ориентацией и когнитивными стилями проявляется уже в раннем детстве, оставаясь стабильной по жизни, мы предполагаем, что политическая ориентация может быть связана с индивидуальными отличиями в базовом нейрокогнитивном механизме, используемом в саморегуляции” [15].

И еще: “Наши результаты коррелируют с тем, что политическая ориентация частично отражает индивидуальные различия функционирования общего механизма, относящегося к когнитивному контролю и саморегуляции. Сильный консерватизм, в отличие от либерализма, ассоциировался с меньшей нейрокогнитивной чувствительностью к реагированию на конфликты. <…> Консерваторы будут лучше осуществлять задачи, для которых характерен более фиксированный стиль реагирования как оптимальный” (там же).

Разные модели мира ведут к разному поведению. Американцы отличаются не только политически, но и психологически. Исследования демонстрируют, что люди становятся более консервативными, когда они чувствуют себя испуганными. После 11 сентября США ощутили консервативный сдвиг. Такая реакция на страх/испуг универсальна и есть и в  других странах. Ощущение безопасности делает людей более либеральными. Консерваторы не могут спокойно смотреть на внушающие отвращение картинки (кровь, рвота и под.). Консерваторы демонстрируют более упорядоченные модели мышления. Люди консервативных взглядов более сопротивляются изменениям, что помогает им лучше относиться к неравенству  [16].

Более детально это исследуется как две разные модели мира. М. Хетерингтон говорит: “Представление о мире не является идентичностью. Это способ понимания сущности мира. Он безопасен или опасен? Нужно ли защищать традиционные подходы или безопаснее их поменять? Сегодня политический взгляд, исходящий от взгляда на мир американцев, стал связан с политическими ориентациями. Но поскольку представления о мир людей организуют всю их жизнь, а не только политическую ее часть, партийная идентичность создает интенсивный конфликт. Противоположные представления о мире всегда существовали в Америке (и, вероятно, с появления людей). Новым является то, что они теперь точно вписываются в идентичности американских партий” [17].

Этот интенсив противостояния в выборах распространяется на все, проникая во все уголки жизни. Например, семь из десяти демократически ориентированных молодых людей не хотели бы встречаться с теми, кто является избирателем Трампа, то есть 71% не хочет быть в серьезных отношениях с представителем противоположного политического лагеря [18].

Центр Пью демонстрирует, что в результате поляризации почти половина американцев перестала обсуждать политические новости с другими. Это 45% американцев, правда, 54% все равно делают это [19]. Это результат накаленного влияния поляризации общественных дискуссий. Разделение усиливают и автоматические боты, поскольку 66% отсылок на сайты исходит от них, а не от живых людей [20].

Соответственно, в период выборов американцы читали только те сайты, которые связаны с их взглядами. Они как бы “сидели” в двух абсолютно разных информационных экосистемах [21].

ФБР объявило Е. Пригожина в розыск. Аналитики подчеркивают серьезность этого шага. Профессор Дж. Фитсанакис: “Я, конечно, не думаю, что ФБР в ближайшее время арестует Пригожина. Но в большинстве случаев человек, попавший в список самых разыскиваемых преступников, остается в нем на годы и десятилетия. Так что это решение – сигнал для самого Пригожина и для российских властей о том, что ФБР будет ждать его столько, сколько потребуется” [22].

Теперь Агентство Интернет исследований сегодня активно отслеживается на Западе [23 – 24]. Причем его широкие масштабы все же концентрируются на ограниченной тематике. Например, выделены такие основные продвигаемые темы:

• Украина как несостоявшееся государство и ненадежный партнер,
• США и НАТО агрессивны и вмешиваются в дела других стран,
• Европа слаба и разделена,
• Критики российского государства морально коррумпированы, алкоголики или психически нестабильны,
• Мусульмане как агрессивные захватчики,
• Российское правительство как жертва западного лицемерия и заговора,
• Западные выборы подтасованы, а кандидаты, критикующие Кремль, неизбираемы,
• Турция как агрессивное и дестабилизирующее государство,
• Мировые спортивные организации и соревнования – нечестные, непрофессиональные и русофобские [25].

Общая модель воздействия на другие страны покоится на разделении их на враждующие составляющие, которые в дальнейшем подпитываются все новыми и новыми материалами.

То есть чем сильнее разгорается пламя политического противостояния, тем сильнее оказывается разделенной страна. В любом случае перед нами работающий инструментарий, поэтому никто от него не откажется. Тем более он направлен против чужой страны, которая неофициально и официально признается врагом.

В свое время был и советский опыт запуска подобного рода неофициальной информации, которую никто не привязывал к стране. Наиболее известной была кампания по привязке США к СПИДу, причем в качестве варианта генетического оружия.

Автор:  Георгий Почепцов; профессор, эксперт по информационной политике и коммуникационных технологиях; Rezonans

Литература

1. O’Neil C. Don’t trust that algorithm https://news.harvard.edu/gazette/story/2016/10/dont-trust-that-algorithm/
2. Facebook and Google ‘too powerful’ says watchdog boss https://www.bbc.com/news/business-56174671
3. Search Advertising: Learn How to Advertise on Search Engines https://www.wordstream.com/search-advertising
4. Howard P.N. a.o. The IRA, Social Media and Political Polarization in the United States, 2012-2018 https://comprop.oii.ox.ac.uk/wp-content/uploads/sites/93/2018/12/IRA-Report-2018.pdf
5. Волчек Д. “Я был женщиной, индейцем и стариком”. Признания кремлебота https://www.svoboda.org/a/31119856.html
6. Волчек Д. “Наша норма – 120 комментов в день”. Жизнь кремлевского тролля https://www.svoboda.org/a/31065181.html
7. Плотникова А. и др. «Фабрика троллей» Евгения Пригожина https://www.golosameriki.com/a/ai-prigozhin/4263958.html
8. Плотникова А. “Фабрика троллей” продолжает работать https://www.golosameriki.com/a/ai-trolls-factory/3735244.html
9. Решето Ю. “Их было не 13”: разоблачитель “фабрики троллей” об обвинении в США https://www.dw.com/ru/%D0%B8%D1%85-%D0%B1%D1%8B%D0%BB%D0%BE-%D0%BD%D0%B5-13-%D1%80%D0%B0%D0%B7%D0%BE%D0%B1%D0%BB%D0%B0%D1%87%D0%B8%D1%82%D0%B5%D0%BB%D1%8C-%D1%84%D0%B0%D0%B1%D1%80%D0%B8%D0%BA%D0%B8-%D1%82%D1%80%D0%BE%D0%BB%D0%BB%D0%B5%D0%B9-%D0%BE%D0%B1-%D0%BE%D0%B1%D0%B2%D0%B8%D0%BD%D0%B5%D0%BD%D0%B8%D0%B8-%D0%B2-%D1%81%D1%88%D0%B0/a-42646683
10. Семенова А. Бывший интернет-тролль Людмила Савчук: “Надеюсь, фабрику троллей разорят” https://www.bbc.com/russian/russia/2015/08/150818_savchuk_trolls_factory_interview
11. Плотникова А. «Фабрика троллей» уходит, чтобы остаться https://www.golosameriki.com/a/anna-plotnikova-sankt-petersburg-troll-factory/2902933.html
12. Павлов И. Дела Людмилы Савчук. Команда 29 рассказывает о «фабрике троллей» https://team29.org/court/trolls/
13. Савчук Л. Я хочу закрыть эту фабрику лжи. Интервью https://novayagazeta.ru/articles/2015/06/01/64343-171-ya-hochu-zakryt-etu-fabriku-lzhi-187
14. Резунков В. Побег с “фабрики троллей” https://www.svoboda.org/a/27970298.html
15. Amodio D.M. a.o. Neurocognitive correlates of liberalism and conservatism http://eugrafal.free.fr/Amodio-et-al-2007.pdf
16. Brueck H. a.o.These key psychological differences can determine whether you’re liberal or conservative https://www.businessinsider.com/psychological-differences-between-conservatives-and-liberals-2018-2
17. Klein E. A new theory for why Republicans and Democrats see the world differently https://www.vox.com/policy-and-politics/2018/12/18/18139556/republicans-democrats-partisanship-ideology-philosophy-psychology-marc-hetherington
18. Brown A. Most Democrats who are looking for a relationship would not consider dating a Trump voter https://www.pewresearch.org/fact-tank/2020/04/24/most-democrats-who-are-looking-for-a-relationship-would-not-consider-dating-a-trump-voter/
19. Jurkowitz M. a.o. A sore subject: Almost half of Americans have stopped talking politics with someone https://www.journalism.org/2020/02/05/a-sore-subject-almost-half-of-americans-have-stopped-talking-politics-with-someone/
20. Wojcik S. a.o. Bots in the Twittersphere https://www.pewresearch.org/internet/2018/04/09/bots-in-the-twittersphere/
21. About a quarter of Republicans, Democrats consistently turned only to news outlets whose audiences aligned with them politically in 2020 https://www.journalism.org/2021/02/22/about-a-quarter-of-republicans-democrats-consistently-turned-only-to-news-outlets-whose-audiences-aligned-with-them-politically-in-2020/
22. Белянинов К. ФБР опять объявило в розыск Евгения Пригожина. Почему это очень плохая новость для бизнесмена? https://www.bbc.com/russian/news-56250194
23. Russian Op 3: The Blue Man and the Mole. Fake accounts targeted Ukraine with suspect documents and “leaks” https://medium.com/dfrlab/russian-op-3-the-blue-man-and-the-mole-3ba77b9eb955
24. IRA again: unlucky thirteen https://public-assets.graphika.com/reports/graphika_report_ira_again_unlucky_thirteen.pdf
25. Nimo B. a.o. Secondary infection https://secondaryinfektion.org/downloads/secondary-infektion-report.pdf