Но термин «промывание мозгов» приходит не от них. Это результат того, что было сделано китайскими инструкторами с американскими военнопленными во время корейской войны. В закрытой среде, наказывая за непослушание всех, а не только провинившегося, инструкторам удалось добиться того, что американцы боялись возвращаться домой, в этот ужасный империализм. Их удавалось убедить только тем, что в США есть своя компартия, которая их защитит. Этот феномен начали исследовать, и он получил название «промывания мозгов». Потом этот же тип воздействия признали в тоталитарных сектах, которые также являются закрытой группой, и существует полная зависимость индивида от коллектива, возглавляемого лидером секты. Стейн пишет: «Если ситуация является серьезной, и человек находится в сильной изоляции без ясной возможности избежать этого, тогда обычный человек сдается травматическому давлению промывания мозгов».
Как видим, появился еще один параметр — неизбежности, невозможности выйти из этой ситуации, поэтому человек находит единственное спасение — выживания в подчинении ситуации, в которую он попал. Он сам становится активным и искренним участником по форматированию его мозгов, поскольку именно в этом лежит его спасение. Физический страх побеждает разум. Это может выглядеть ужасным, но это правда.
Лифтон, который наиболее детально исследовал данное явление «промывания мозгов», выделяет в этом процессе два этапа: признание и перевоспитание (см. также работу: Lifton R.J. Thought Reform And The Psychology Of Totalism. — Chapel Hill — London, 1989). Это было признанием прошлых ошибок и переделкой человека в соответствии с коммунистическими требованиями. Более детально этот процесс разлагается на восемь составляющих: контроль среды (кстати, лучше всего подходят для этого закрытые монастыри, не имеющие связи с миром), мистическая манипуляция, создающая ощущение, что все происходящее взаимосвязано, признание, очищение, аура священной науки, нагруженный язык, принцип — группа важнее человека, принцип — группа важнее остального мира.
ЦРУ делает больший акцент на методах допроса пленного. Они считают, что эти методы возникли скорее путем проб и ошибок, а не благодаря участию ученых. Интересно также замечание, что если пленного выбрали для промывания мозгов, ему не избежать всего набора техник, даже если он согласится подписать любое признание.
ЦРУ выделяет два инструмента в процессе промывания мозгов. Первый — это деморализация, приводящая к тому, что пленный не может четко различать, что является правдой, а что ложью, как и то, что логично, а что нет. Второй — это реорганизация, где он должен построить свое признание, развить его, защищать его, поверить в него. Кстати, самым важным элементом процесса промывки мозгов ЦРУ считает допрос, поскольку он позволяет деморализовать пленного и атаковать его ценностную систему. Выделяется десять эмоциональных состояний, которые человек проходит в процессе промывки мозгов, и чувство вины является лишь одним из них. Одним из эффективных методов контроля ЦРУ считает изоляцию человека. Находиться в таком состоянии достаточно тяжело для многих, хотя некоторые могут его перенести.
Еще одно название для этого подхода — «реформа мышления» (thought-reform). Кстати, Китай активно пользовался термином «перевоспитание» и в период культурной революции, и сегодня в отношении лагерей по перевоспитанию своего мусульманского населения — уйгуров (см. тут, тут и тут). Это тоже закрытая среда, но в ней содержится миллион человек. И понятно, что методы те же, поскольку закрытая среда не боится ничего, а ее обитатели, наоборот, боятся всего.
Следует признать, что практически такой же эксперимент по перевоспитанию миллионов провел Советский Союз за 20 лет с 1917 по 1937 г., завершив его репрессиями, которые «запечатали рты» всем носителям другого мнения и другой памяти. Государство всеми силами науки и образования, литературы и искусства, медиа вносило и удерживало новую память о прошлом и новую модель настоящего, а те, кто был этим недоволен, попали под каток репрессий.
Не только вход в тоталитарную организацию, но и выход из нее сопряжен с рядом трудностей. В одном случае надо ввести новую модель мира, которую человек искренно принимает, в другом — разрушить ее.
Под влиянием Лифтона Хассан, сам прошедший через секту, предложил свою модель BITE: Behavior, Information, Thought, Emotional, то есть Контроль поведения, Контроль информации, Контроль мышления и Контроль эмоций. Эта модель используется при депрограммировании человека при его выходе из тоталитарной секты. Он сделал также серию интервью с Лифтоном.
В принципе, в наше время это направление вновь приобрело актуальность, поскольку возникла проблема вовлечения новобранцев в радикальный ислам и, соответственно, выведения их из этого состояния. Все это методы контролированного поведения (см. исследование, например, о левых экстремистах). В этой диссертации Стейн, а она сама прошла через тоталитарную секту The Organization (The O), утверждается, что определяющим параметром для тоталитарных организаций является форма, а не конкретные идеологические, религиозные, политические или другие догмы, которые там используются. То есть собственно контент вторичен, первично воздействие разного рода техник.
Стейн придерживается мнения, что обработка информации может быть центральной и периферийной. При центральной обработке основное внимание уделяется содержанию сообщения, его качеству, его аргументам. При периферийной обработке люди обращают внимание на вторичные характеристики — ощущаемый уровень экспертности или привлекательности коммуникатора, количество его аргументов. Людей можно отвлекать от центральной обработки в пользу порождением созданием страха, быстротой подачей, что ведет к отсутствию времени для обработки, излишней повторяемости, сложности языка.
Близка к этому модель Петти с соавтором, которые разрабатывали ее для анализа влияния на потребителей (см. тут и тут). По этой модели периферийное воздействие ведет не к оценке достоверности аргументов, а к факторам их подачи, например, принятие сообщения по той причине, что оно было высказано на хорошем ланче для участников. Стейн считает периферийное воздействие очень важным для ее исследования тоталитарной секты, поскольку такое воздействие не дает возможности сконцентрироваться на собственно аргументах.
Но если вдуматься, то советская тоталитарная пропаганда также использовала этот метод, например, бесконечное повторение одного и того же автоматически отодвигало его на периферию восприятия. Но здесь оно входило чисто автоматически, не вызывая сопротивления.
Еще один «классик» по исследованию китайского варианта промывания мозгов — Эдгар Шейн. Потом он работал в сфере теории менеджмента в Массачусетском технологическом институте. А само промывание мозгов он обозначил, как нам представляется, удачным термином «принудительное убеждение» (coercive influence). При этом он лично принимал участие в беседах с теми, кого отпустили из плена перед отправкой в США.
В анонимной рецензии ЦРУ на книгу Шейна, в которой подчеркивается, что это не только китайский, но и советский метод, приводятся слова американского ветерана сферы безопасности, считавшего, что основным здесь является идеологический подход. Важным для понимания феномена промывки мозгов, по его мнению, являются точки отсчета тех, кто проводит это, и тех, над кем проводят. То есть перед нами возникает вполне четкая инженерная задача: имеем это — в результате должны получить это.
Шейн увидел в модели промывания мозгов такие этапы, выделив их в рамках известной модели Левина, состоявшего из таких компонентов: Размораживание, Изменение, Замораживание. Имеется в виду, что сначала требуется «разморозить» уже имеющиеся представления, потом заменить их и снова «заморозить».
В рамках этапа «изменения», с точки зрения Шейна, используется следующее:
- новая идентификация,
- техники модификации поведения,
- мистическая манипуляция,
- техники изменения мышления,
- достижение признания.
Сама книга Шейна была издана в далеком 1961 году (Schein E. H. a.o. Coercive Persuasion. A Socio-psychological Analysis of the “Brainwashing ” of American Civilian Prisoners by the Chinese Communists. — New York, 1961). Но еще раньше вышла книга Хантера «Промывание мозгов в красном Китае» (Hunter E. Brain washing in red China. — New York, 1951).
И еще один специалист, много сделавший в этой сфере, — Зингер (см. тут и тут). Она подчеркивает, что все это не мистика, а систематическое применение техник влияния, что в результате приводит к изменениям в поведении. Зингер также увидела близость этой ситуации со стокгольмским синдромом: «Тогда впервые мир реально увидел, что когда кто-то оказался заложником и понял, что похититель мог причинить им больше вреда, но не сделал этого, в результате развивается чувство признательности к ним. Это также является правдой и в домашнем насилии. Развивается связь между жертвой и человеком, который бьет ее, поскольку, после того, как он останавливается, она благодарна, что он ее не убил. И обидчик почти всегда извиняется».
Психолог Евгений Волков очень много сделал в этой сфере своей редакторский и переводческой работой, например, ему мы обязаны появлению книг Хассена и Лифтона (см. (см. работы: Хассен С. Освобождение от психологического насилия: деструктивные культы, контроль сознания, методы помощи. — СПб., 2001.; Лифтон Р. Дж. «Исправление мышления» и психология тоталитаризма. — СПб., 2004, а также тут), а также его собственным исследованиям.
Сегодняшние научные подходы достигли новых высот, поскольку они позволяют совершать «промывание мозгов» уже не в закрытой, а открытой среде. Человек сидит у экрана телевизора или за компьютером. Ему приходят сообщения, учитывающие его групповые характеристики, позволяющие предположить, что он может изменить свое мнение в сторону нужного кандидата, и при голосовании именно это и происходит. Человек, конечно, может уклониться от этого воздействия, но этого не происходит, потому что, условно говоря, он слышит в этих словах самого себя, а от себя никуда не уйдешь.
В журнале Foreign Affairs было предложено по аналогии с жесткой и мягкой силой Джозефа Ная назвать этот новый феномен воздействия острой силой — sharp power. Однако Най выступил против, признав острую силу, которая задавалась как «обманное использование информации для враждебных целей», вариантом своей жесткой силы. Он пишет: «Новым является не базовая модель, а скорость, с которой данная дезинформация может распространяться, а также малая стоимость этого распространения. Электроны дешевле, быстрее, безопаснее, от них легче отказаться, чем от шпионов. С армией платных троллей и сетью ботов вместе с такими распространителями, как Russia Today (RT) и Sputnik, российская разведка с проникновением в электронную почту Демократического Национального Комитета и высокого уровня официальных лиц кампании Клинтон может сбивать с толку и прерывать новостные циклы неделя за неделей».
Правда, есть еще одна важная составляющая новой системы, пришедшая как результат децентрализации интернета, это возможность каждого пользователя самому стать медиа. Именно это, а не боты или тролли, является главной движущей модель распространения информации в интернете, где сами пользователи ретвитят и репостят то, что пришло к ним.
Даже Шнуров в споре с российским министром культуры Мединским заявил: «Любой человек, у которого есть твиттер, является производителем смыслов и производителем культуры. Этих производителей культуры регламентировать просто теоретически невозможно — возможно только создавать атмосферу благоприятствования, уважения. Это не получится, так как все вертикали давным-давно падают, так как уже выстроилось горизонтальное общество, так как сейчас, собственно говоря, работник культуры и сферы искусств — любой блогер». И здесь он подчеркивает не столько возможности пользователя по трансляции, как по созданию иных смыслов.
Человек, правильно или неправильно, ощутил себя ныне коммуникативным центром, чтобы не сказать центром Вселенной. Пользователи соцсетей — реально никто, но миллионы таких никто по мановению троллей-дирижеров вдруг начинают выводить одну-единую мелодию, которую слышат все. Без этих дирижеров мелодии не сливаются воедино.
При этом платформы белых националистов не получают такого же давления со стороны техгигантов, как исламские (см. также анализ факторов того, почему некоторые сообщения распространяются лучше других). Конспирология хорошо распространяется в соцсетях, хотя для этого подходят и неанонимные источники.
Концепция острой силы, упомянутая выше, продолжает свое развитие, несмотря на возражения Ная. Несколько идей, которые уже прозвучали на сегодня:
- Россия и Китай не являются «жесткими» в своих действиях, но они также не являются и «мягкими»;
- авторитарное влияние не строится на привлечении или убеждении, оно базируется на отвлечении и манипуляции;
- острая сила проникает в политическую и информационную среды стран-целей,
- российский и китайский подходы исходят из идеологической модели, где власть государства превалирует над личностными свободами.
Уолкер как один из авторов этой идеи видит действие этого инструментария не только в сфере политики, но и в культуре, медиа, науке, издательской сфере, называя их секторами, которые предопределяют то, как граждане демократий понимают мир вокруг них, и это является угрозой демократическим системам.
Еще одним доводом в свою пользу он считает то, что теоретики сегодня в замешательстве: «Данные режимы не полагаются исключительно на жесткую силу, они не столь успешны и в порождении мягкой силы, но в то же время способны проецировать реальное влияние за рубежом. Видя возрождение авторитаризма в мире, настало время подумать об этом явном парадоксе».
Унификация мышления имеет давнюю историю. Возникновение «злых» богов в истории человечества объясняют тем, что это произошло, когда людей стало слишком много (см. тут и тут). Сложное общество потребовало богов-морализаторов, чтобы унифицировать поведение, а следовательно, и мышление. Это показало исследование 414 обществ из 30 регионов на протяжении 10 тысяч лет.
После использования богов, которые унифицировали мышление и поведение, сегодня за это взялась пропаганда, ярким примером чего были тоталитарные государства. Они активно продвигались и на Запад, где самым сильным коммунистическим пропагандистом был Вилли Мюнценберг, одна из книг о котором называется «Красный миллионер» (см. тут). Он, работая на Коминтерн, общался со многими западными интеллектуалами, создавая победную ауру для СССР. О его методах работы пишут так: «Мюнценберг часто брал “известных”интеллектуалов и контролировал их с помощью групповой психологии и подкупа. Он позволял им чувствовать себя полностью независимыми, что им и в голову не приходило проверить свою мнимую свободу. Такими писателями, как Линкольн Стеффенс, Эрнст Хемингуэй, Джон Дос Пассос и Генрих Манн, так хорошо манипулировали, что они часто не понимали этого до того, как было уже поздно. Тогда их собственное личное тщеславие делало невозможным признание того, что их легко и лукаво провели, особенно таким человеком, который явно был их интеллектуальным карликом». Мюнценберг создавал себе в помощь множество организаций, которые он про себя именовал «клубами невинных».
Кстати, получается, что это та модель работы с публичными интеллектуалами для последующего захвата всего населения, которая была применена ближе к нашему времени для продвижения либерального капитализма, в результате чего и Тэтчер, и Рейган отказались от своих вариантов государственного капитализма в его пользу. Именно тогда возникли первые think tank’и.
Мюнценберг не только сам выпустил книгу «Пропаганда как оружие», но и в книгах о нем подчеркивается его дар пропагандиста, что под его влиянием также были Альберт Эйнштейн, Эптон Синклер, Анри Барбюс, Бертольд Брехт в дополнение к тем именам, которые мы перечислили выше (см. работу: McMeekin S. The Red Millionaire: A Political Biography of Willy Münzenberg, Moscow’s secret propaganda tzar in the West. — New Haven — London, 2003). После Первой мировой войны он вел реальную идеологическую войну, будучи главным советским пропагандистом на Западе.
Латынина справедливо отмечает, что Мюнценберг создал не сеть шпионов, а сеть агентов влияния: «Он создал систему идеологии современной левой люмпен-бюрократии и всех свойственных ей мемов, все эти комитеты борцов за мир и против фашизма. Он создал систему манипулирования полезными идиотами. И все главные приемы современной массовой пропаганды — представление преступника несчастной жертвой, приписывание своим врагам всех своих преступлений, тотальное игнорирование фактов – все эти приемы, которые сейчас используют и страны-изгои, и исламские террористы, и на которых ловятся многочисленные люди доброй воли, были созданы в 20-х годах именно Вилли Мюнценбергом, равно как и сама практика создания бесконечных комиссий, комитетов для придания откровенному вранью статуса общественного мнения. Собственно, Геббельс очень завидовал Мюнценбергу и никогда не достиг его успехов» (см. тут, а также тут, тут и тут).
Однако в любом случае все это работа в открытой информационной среде, которая имеет множество сложностей. Понятно, что она резко облегчается в закрытой информационной среде, характерной для тоталитарных и авторитарных государств, когда информационная конкуренция оказывается уничтоженной, а правильные с точки зрения власти сообщения получают существенные преимущества.
И фраза Дмитрия Быкова о современной пропаганде дополнит картинку упрощения мышления и пропаганды уже в наше время: «Понимаете, вот некоторые говорят: “А зачем ей (власти. — Г. П.] такие плохие пропагандисты?”Она может себе позволить, в этом ее смысл. Ей не нужны умные пропагандисты, ей не нужны пропагандисты хорошие. И это счастье, это отсутствие очень важного соблазна. Потому что масса народу… Себя я, конечно, в эту массу не включаю, у меня такого соблазна нет, но он мог бы появиться, слаб человек. Очень многие люди захотели бы пойти в идейную обслугу этой власти, если бы этой власти нужна была идейная обслуга. Нет, ей как раз наоборот важно показать: мы можем себе позволить быть такими. Нас устраивают такие циничные, прожженные, бестактные, неумные пропагандисты. Нас устраивает топорный стиль этой пропаганды, потому что он показывает наше право быть любыми. Нам не нужны умные, нам нужны верные. Этот принцип Стругацких совершенно точный».
Авторитарные режимы оказались сильны простотой своих моделей влияния, поскольку опираются на продуцируемые ими простые истины, что также является одним из вариантов упрощения мышления. И если соцмедиа в явной степени ведут к упрощению дискуссии, поскольку там преобладают эмоции, а не рацио, то это ведет и к упрощению пропаганды, создаваемой для этих пользователей.
Однако и демократические режимы, и даже демократические партии в них жаждут избавиться от разнообразия интересов своих избирателей. Те, кто работает в американском демократическом поле, например, утверждают, что нет единого спектра от центра влево, где находится оптимальная середина воззрений избирателей. Есть большое число подгрупп избирателей, для которых конкретная проблема является центральной.
Мы все становимся слишком разными. И эту «разность» надо учиться находить, учитывать и уметь с нею работать. Гудков приводит пример становления социологии на Западе и у нас: «На Западе исторически социология возникала и развивалась в моменты перехода от закрытого традиционного сословного общества к массовому, открытому, представительскому, рыночному и т. д. Она должна была дать ответы на запросы самого общества: появились новые формы коллективной или массовой жизни — большие города с их особой интенсивностью духовной, экономической или политической жизни, биржей, партиями, газетами, профсоюзами, новыми течениями в искусстве, в философии и проч. Что это такое? Каковы последствия этого? Как меняется сам человек в этих обстоятельствах?
А у нас социология с самого начала формировалась как еще один инструмент управления для начальства. Средство повышения эффективности пропаганды. Политический консалтинг, дополнительный источник информации. Иные начальники стали украшать свои доклады какими-нибудь ссылками на опросы социологами населения, подтверждающими намерения чуть-чуть изменить приоритеты в финансировании, скажем, строительства культурных объектов». Однако советский человек был во многом одинаков, это тоже надо понимать. Или у него были более жесткие условия выживания, которые заставляли его быть унифицированным в публичной сфере.
Контроль мышления в его жестком варианте связан с использованием наказаний за уклонение от навязанных правил. Мягкий вариант не наказывает, а привлекает более комфортными условиями жизни, к примеру, как это было в СССР, если ты не шел наперекор имеющейся идеологии. Религия и идеология очень не любят еретиков, поскольку они могут стать примером для других возможных отступников.
Шейн писал о стандартном китайском варианте работы не с военнопленными, а с гражданами в так называемой реформе мышления, где прослеживаются все те же характеристики: «Реформа мышления проводилась в Китае с помощью групп, которые занимались критикой, самокритикой, обвинениями, выражением жалоб и изучением, обычно проводимая партийным чиновником, который сообщал наверх информацию о прогрессе членов группы. Такие группы, состоящие из 10–12 человек, были организованы в каждой деревне, школе, заводе, тюрьме, ферме, чтобы рационализировать материал, даваемый с помощью чтения или лекции, предоставляя возможность каждому члену продумать, как теоретические положения могут быть использованы в его собственном деле» (см. также иной рассказ о времени культурной революции).
И мы не должны смотреть свысока на это время, поскольку у нас тоже были процессы над врагами народа до войны, как и обсуждение космополитов и других после войны, где от каждого требовалось прокричать свои осуждающие слова о жертве. И во всех этих случаях человека ведет не разум, но тело, поскольку он не хочет оказаться на месте осуждаемого.
Литература
1. Symposium on communist brainwashing // www.wnyc.org/story/symposium-on-communist-brainwashing/.
2. Stein A. How totalism works // aeon.co/essays/how-cult-leaders-brainwash-followers-for-total-control.
3. Lifton R.J. Thought Reform And The Psychology Of Totalism. — Chapel Hill — London, 1989.
4. Lifton’s Thought Reform // changingminds.org/techniques/conversion/lifton_thought_reform.htm
5. Brainwashing from a psychological viewpoint // www.cia.gov/library/readingroom/docs/CIA-RDP65-00756R000400050004-9.pdf.
6. Apps P. China’s Uyghur detention camps may be the largest mass incarceration since the Holocaust // www.newstatesman.com/world/asia/2019/03/china-s-uyghur-detention-camps-may-be-largest-mass-incarceration-holocaust.
7. Watson I. a.o. Uyghur refugee tells of death and fear inside China’s Xinjiang camps // www.cnn.com/2019/01/18/asia/uyghur-china-detention-center-intl/index.html.
8. Castets R. What’s Really Happening to Uighurs in Xinjiang? // www.thenation.com/article/china-xinjiang-uighur-oppression/.
9. Steven Hassan’s BITE model // freedomofmind.com/bite-model/.
10. Hassan S. Robert Jay Lifton MD: An Interview with a Genius // freedomofmind.com/robert-jay-lifton-m-d-an-interview-with-a-genius/.
11. Stein A. Attachment, networks and discourse in extremist political organizations: A comparative case study // www.academia.edu/1971678/Attachment_networks_and_discourse_in_extremist_political_organizations_A_comparative_case_study.
12. Petty R.E. a.o. Source factors and the elaboration likelihood model of persuasion // www.communicationcache.com/uploads/1/0/8/8/10887248/source_factors_and_the_elaboration_likelihood_model_of_persuasion.pdf.
13. Petty R.E. a.o. Central and Peripheral Routes to Advertising Effectiveness: The Moderating Role of Involvement // intranet.fucape.br/uploads/MATERIAIS_AULAS/33022-CENTRA~1.PDF.
14. Edgar Schein // en.wikipedia.org/wiki/Edgar_Schein.
15. Book Review of Coercive Persuasion by Edgar H. Schein // www.cia.gov/library/center-for-the-study-of-intelligence/kent-csi/vol5no4/html/v05i4a10p_0005.htm.
16. Schein’s stages of conversion // changingminds.org/techniques/conversion/schein_conversion.htm.
17. Schein E. H. a.o. Coercive Persuasion. A Socio-psychological Analysis of the “Brainwashing ” of American Civilian Prisoners by the Chinese Communists. — New York, 1961.
18. Hunter E. Brain washing in red China. — New York, 1951.
19. Singer M.T. Thought Reform Exists: Organized, Programmatic Influence // www.cultrecover.com/sites/default/files/pdfs/CONTINUUM_INFLUENCE.pdf.
20. An interview with Margaret Singer on Undue Influence // culteducation.com/group/1153-margaret-thaler-singer-ph-d/19298-an-interview-with-margaret-singer-on-undue-influence-.html.
21. Волков, Евгений Новомирович // ru.wikipedia.org/wiki/%D0%92%D0%BE%D0%BB%D0%BA%D0%BE%D0%B2,_%D0%95%D0%B2%D0%B3%D0%B5%D0%BD%D0%B8%D0%B9_%D0%9D%D0%BE%D0%B2%D0%BE%D0%BC%D0%B8%D1%80%D0%BE%D0%B2%D0%B8%D1%87.
22. Хассен С. Освобождение от психологического насилия: деструктивные культы, контроль сознания, методы помощи. — СПб., 2001.
23. Лифтон Р. Дж. «Исправление мышления» и психология тоталитаризма. — СПб., 2004.
24. Лифтон Р. Идеологический тоталитаризм // evolkov.net/cults/articles/Lifton.R.8.criteria.of.mind.control.html.
25. Волков Е.Н. Основные модели контроля сознания (реформирования мышления) // evolkov.net/cults/jpp/Volkov.E.Models.of.mind.control.1996.html.
26. Walker C. a.o. The Meaning of Sharp Power. How Authoritarian States Project Influence // www.foreignaffairs.com/articles/china/2017-11-16/meaning-sharp-power.
27. Nye J. S., Jr. How Sharp Power Threatens Soft Power. The Right and Wrong Ways to Respond to Authoritarian Influence // www.foreignaffairs.com/articles/china/2018-01-24/how-sharp-power-threatens-soft-power.
28. Сизова К. «Не понимает»: Мединский ответил Шнурову на идею разогнать Минкульт // www.gazeta.ru/culture/2019/03/23/a_12261319.shtml?utm_source=yxnews&utm_medium=desktop.
29. Tiku H. Tech platforms treat white nationalism different from Islamic terrorism // www.wired.com/story/why-tech-platforms-dont-treat-all-terrorism-same/.
30. Howard P. a.o. Three reasons junk news spreads so quickly across social media // www.oii.ox.ac.uk/blog/three-reasons-junk-news-spreads-so-quickly-across-social-media/.
31. Collins B. On Amazon, a Qanon conspiracy book climbs the charts — with an algorithmic push // www.nbcnews.com/tech/tech-news/amazon-qanon-conspiracy-book-climbs-charts-algorithmic-push-n979181.
32. Walker C. a.o. From ‘Soft Power’ to ‘Sharp Power’: Rising Authoritarian Influence in the Democratic World — Sharp power. Rising authoritarian influence // www.ned.org/wp-content/uploads/2017/12/Sharp-Power-Rising-Authoritarian-Influence-Full-Report.pdf.
33. Walker C. What is “sharp power”? // www.ned.org/wp-content/uploads/2018/07/what-is-sharp-power-christopher-walker-journal-of-democracy-july-2018.pdf.
34. Walker C. The point of sharp power // www.japantimes.co.jp/opinion/2018/02/12/commentary/world-commentary/point-sharp-power/#.XjgCZLfYpEY.
35. Whitehouse H. a.o. Big gods came after the rise of civilisations, not before, finds study using huge historical database // theconversation.com/big-gods-came-after-the-rise-of-civilisations-not-before-finds-study-using-huge-historical-database-113801.
36. Воронин Н. Ученые: люди придумали строгих богов, когда общество стало слишком большим и сложным // www.bbc.com/russian/news-47646034?fbclid=IwAR08tmbRFaTKmaQi-zJM6xwzan0sZG6Hlva9M-tSB57GaIbX0uUetDxuaBw.
37. Willi Münzenberg // en.wikipedia.org/wiki/Willi_M%C3%Bcnzenberg.
38. Scammell M. The Mystery of Willi Münzenberg // www.nybooks.com/articles/2005/11/03/the-mystery-of-willi-munzenberg/.
39. Herring M. Y. Genius Dunderheads // www.contra-mundum.org/cm/reviews/mh_double.pdf.
40. Szamuely H. The big lie or many smaller lies? The career and impact of communist propagandist Willi Munzenberg // www.libertarian.co.uk/lapubs/histn/histn049.pdf.
41. McMeekin S. The Red Millionaire: A Political Biography of Willy Münzenberg, Moscow’s secret propaganda tzar in the West. — New Haven — London, 2003.
42. Латынина Ю. Код доступа // echo.msk.ru/programs/code/1687414-echo/.
43. Латынина Ю. Код доступа // echo.msk.ru/programs/code/1488398-echo/.
44. Беркович Е.Эйнштейн и большевики // trv-science.ru/2017/08/15/einstein-i-bolsheviki/.
45. Вилли Мюнценберг, пионер “дезинформации” // www.drakankc.ru/istoriya-speczsluzhb-mira/persony/1994-villi-myuncenberg-pioner-dezinformacii.html.
46. Быков Д. Один // echo.msk.ru/programs/odin/2392311-echo/.
47. Putnam L. The progressive base is not as far left as you might think // www.vox.com/first-person/2019/3/25/18275868/2020-presidential-election-midterms-democrats-candidate-progressive-base.
48. Соломонов Ю. Есть ли у великих держав чувство стыда. Интервью с Л. Гудковым // www.ng.ru/stsenarii/2019-03-25/12_7539_styd.html.
49. Schein E.H. Brainwashing // dspace.mit.edu/bitstream/handle/1721.1/83028/14769178.pdf.
50. Stackhouse-Hite A. Cultural revolution: author tells story of a brainwashed nation // www.recorderonline.com/cultural-revolution-author-tells-story-of-a-brainwashed-nation/article_e7b81b5f-c52e-557d-895a-f0f69eea82c5.html.