Как нас постепенно поглощает цифровой мир
Даже печатная газета или книга имеют в своей цепочке цифровые технологии, хотя в конечном потреблении его нет, если мы просто читаем книгу традиционным образом.
Сегодня цифровые игроки перестраивают под себя мир и сверху — на законодательном уровне, и снизу — захватывая наши мозги. Обустроившись внизу, техгиганты хотят получить свободу действий и наверху:
«На фоне фармацевтической, энергетической и финансовой индустрии сфера высоких технологий выглядит скромным новичком в попытках лоббировать свои интересы. “Технари” практически не представлены непосредственно в правительстве, однако с каждым годом объем их инвестиций в лоббирование растет. В 2018 году Google потратила больше всего денег на лоббирование своих интересов в Конгрессе, Белом доме и в ключевых федеральных агентствах — около 21 млн долларов. А вместе Google, Amazon, Apple, Facebook и Microsoft вложили больше 64 млн долларов в отстаивание своих интересов — это на 10 % больше, чем в 2017-м. Одним из основных вопросов, по которым Кремниевой долине приходится отстаивать свои интересы в Вашингтоне, стала разработка законодательства вокруг сбора личных данных пользователей. Для технологических корпораций информация — то же, что нефть для нефтяных компаний или банковские операции для финансового сектора. Пока что кремниевые гиганты добывают ее стихийным образом и практически бесплатно, но прямо сейчас на государственном уровне вырабатываются новые правила добычи и обработки данных о пользователях».
И еще:
«Новые цифровые олигархи влияют на политику по всему миру, причем не столько своими деньгами, как это традиционно делали старые элиты, сколько своими платформами и технологиями. Джордж Сорос, ярчайший и старейший представитель американских финансовых элит, играющих в мировую политику, уже несколько лет называет социальные сети в целом и Цукерберга в частности врагами демократии номер один. Пожалуй, самое досадное для Сороса то, что цифровые олигархи не тратят деньги на политику, а зарабатывают на ней, попутно влияя на политические ландшафты стран и не имея четких идеологических установок».
Наш будущий мир будет скорее более похож на нынешний китайский, чем на наш сегодняшний. У государств и крупных корпораций скапливается огромный объем информации о каждом из нас. В результате они могут знать и прогнозировать наше поведение лучше, чем мы сами.
Аузан заговорил о будущем варианте цифрового тоталитаризма, акцентируя дешевизну его построения: «
Цифровая технология делает возможным как авторитаризм и демократию, так и теперь возможную цифровую консенсусную демократию и тоталитаризм. Кстати, 5/6 стран являются авторитарными в мире, остальные — демократическими, здесь ничего трагического, иногда они “перетекают“ друг в друга. Но возможны и цифровая демократия, и цифровой тоталитаризм. Начнем с консенсусной цифровой демократии: когда не нужны парламентарии, министры. Вы фактически в сетях можете принимать решения. Сейчас референдум делают в Швейцарии и Калифорнии. Технически можно хоть каждый день это делать. Правда, вот сейчас был Брекзит — народное решение, которое ни один политик не может реализовать. Другой полюс: цифровой тоталитаризм. В чем была проблема тоталитаризма 20-го века? Он был очень дорогим. Мы с Арсением Рогинским в Германии обсуждали вопрос исследования архивов Штази, политической полиции ГДР. По их статистике на одно дело наблюдения требовалось 17 человек. Просто завели на человека дело, стали собирать информацию. 17 человек! Тоталитаризм — дорогая система, как только рушится идеология — падает тоталитаризм. А сейчас это очень дешево. В Китайской народной республике автономный Синьцзян-Уйгурский район уже создал цифровую идентификацию лиц, в ряде регионов действует социальный рейтинг, когда ваше поведение — то, что вы покупаете и едите, то, как вы общаетесь — является основанием давать или не давать вам кредиты, продавать ли билеты! Впереди угроза реального цифрового тоталитаризма».
Китайский вариант изучается сегодня более чем активно (см. тут, тут, тут и тут). Китай, сохранив контроль политический и отпустив на свободу экономику, первым создал мир будущего. Кстати, телесериалы массово демонстрируют это будущее для всех и для каждого. Одновременно Харари в своих многочисленных выступлениях, включая Давос, предсказывает такое же печальное будущее для всего мира. И это вполне естественный прогноз, поскольку сила технологий может только расти, а не уменьшаться. Человек при этом остается таким же бесправным — но уже против мощностей современных технологий.
Плюс к этому мир достигнет новых высот не только в распространении лжи, что будут на иных уровнях, включая телесериалы, делать крупные игроки. Но и в распознавании лжи на уровне индивидуального человека, не давая ему возможности уклониться от государственного отслеживания.
Создается впечатление, что технологии начинают все меньше нуждаться в человеке, Да, он нужен для зарабатывания денег техгигантами, но это как бы нужда в домашнем скоте — корове, которая дает молоко. С одной стороны, нужда в человеке-работнике становится все меньшей, с другой — он и сам не стремится к труду на благо родине, а скорее отдаст время просмотру очередного сериала. Так же, как ранее, когда если перед ним лежал роман Томаса Манна или комикс, большинство тянулось за комиксом.
Мало делается для включения самых разнообразных факторов демократизации. Аузан, например, говорит: «На городском уровне пространственное развитие также играет важную роль. Я был поражен, насколько оказался сильным эффект Петровского Санкт-Петербурга. Например, Летний сад, по которому Александр II до выстрела Дмитрия Каракозова гулял практически без охраны, с публикой. Оглядываясь на столицу, городские сады стали тиражировать в губернских и уездных городах. Это задавало другой стиль отношений с властью, снижало ее дистанцию. Сегодня в том же направлении работают большие пешеходные зоны в городах».
И еще Азуан говорит о том, что наши действия всегда будут работать на уменьшение неопределенности:
«Глобализация — процесс не линейный, а волнообразный, колебательный. В конце XIX века, а затем в 1913 году был достигнут непревзойденный до сих пор максимум глобализации по показателям открытости финансовых, товарных рынков и миграции. Сейчас мир распадается на региональные блоки. Но потом он вновь начнет собираться, потому что это процесс циклический. Страны неизбежно двинутся навстречу друг другу при одном условии — если не будет мировой войны. “Конечно, все эти прогнозы очень вероятностны. Мы не можем знать, что будет в 2035 г. Но значит ли это, что нам не нужно иметь ориентиры, чтобы двигаться? Нет, не значит“. На этот вопрос очень хорошо ответил директор Глобального института McKinsey Джонатан Вотцель: “В ситуации структурной неопределенности ваши собственные действия являются способом структуризации и снятия этой неопределенности”. Стратегия необходима не для того, чтобы плыть к точно угаданному будущему, а для того, что это для нас есть способ двигаться, а для будущего — способ его структуризации. Одно можно сказать точно: разработав самую прекрасную стратегию, мы будем менять ее уже через пять лет».
Из этих всех слов следует то, что наше прекрасное будущее может и не быть таким прекрасным. Оно точно будет, но каким оно будет, не знает никто. Мы должны быть готовы к любому варианту, даже самому тяжелому для нас.
При этом некоторые плюсы могут оказаться минусами, когда в действие вступают новые факторы. Система отслеживания лиц Китая, например, оказалась обезоруженной с приходом коронавируса, поскольку на улицы вышли люди в медицинских масках. И это поломало все.
Овчинский, скажем, констатирует:
«Тотальное ношение противовирусных масок практически свело на нет одно из технологических достижений Китая — систему распознавания лиц. Как отмечают эксперты Московского Центра Карнеги, еще в 2017 году функцией распознавания лиц в Китае было оснащено, по меньшей мере, 20 млн камер наблюдения. Согласно прогнозам, к концу 2020 года в Китае будет более 600 млн камер наблюдения. Китай активно внедряет технологии распознавания лиц в самые разные области. В 2019 году около тысячи торговых точек по всей стране добавили возможность платить с помощью Face ID — когда покупателю достаточно посмотреть в специальный терминал, и нужная сумма автоматически спишется с его счета. Более 100 млн китайцев уже подключили себе поддержку оплаты с помощью лица. Сделать это несложно: нужно просто загрузить образцы собственных фотографий в специальное мобильное приложение. Сегодня почти половина банкоматов China Construction Bank — одного из четырех крупнейших банков страны — поддерживает операции с помощью распознавания лиц. Заплатить лицом можно за билеты в общественном транспорте, в поездах дальнего следования, в метро. Но Face ID используется не только в платежных системах. Пекинская подземка осенью объявила, что система распознавания лиц будет также использоваться для классификации пассажиров, чтобы определять, кому проходить дополнительную проверку на металлоискателе при входе в метро, а кому нет. Во многих технологических компаниях Китая этим заменили традиционные пропускные системы. В 2019 году власти КНР обязали всех абонентов сотовых операторов проходить процедуру распознавания лиц при покупке сим-карты. Вспышка коронавируса в Китае выявила слабую сторону “большого брата”. Оказалось, что инвестиции в систему контроля над обществом можно обнулить обычной маской».
Однако эта проблема уже решается в развитых демократиях, так что Китаю не надо особо беспокоиться:
«В мире уже существуют разработки, позволяющие идентифицировать личность по изображению, даже если лицо закрыто на 50 %. К примеру, на такое способно программное обеспечение для распознавания лиц с использованием технологии глубокого обучения от Panasonic. Но программное обеспечение компании может распознать человека в маске только в том случае, если его лицо зарегистрировано в базе данных. Похожие исследования ведутся в Кембриджском университете. Там система уже научилась точно определять людей, скрывающих лицо шарфом, в 77 % случаев; людей в шапке с шарфом на нижней части лица — в 69 % случаев, а с шапкой, шарфом и очками одновременно — в 55 % случаев. Китайские технологические компании тоже улучшают свои технологии по распознаванию лиц. В первую очередь для того, чтобы противостоять мошенникам, пытающимся разными методами (3D-маски, программное обеспечение, фотографии высокого качества и так далее) обмануть системы распознавания» (см. тут и тут).
Газета New York Times цитирует реакцию на системы распознавания в школе: «Наши дети превратились в лабораторных крыс в высокотехнологичном эксперименте по вторжению в приватность». А там возникает множество ошибок, такие системы от в 10–100 раз чаще дают фальшивую идентификацию для афроамериканских и азиатских лиц, чем для европейских. То есть система ошибается только в одну сторону.
Так что не столько цифровой мир не готов к нам, как мы не готовы к цифровому миру. На каждое наше действие там быстро найдется противодействие. Еще до того, как мы об этом подумаем.
Автор: Георгій Почепцов; MEDIASAPIENS
Литература
1. Жданов С. Эпоха цифровых государств: как Facebook, Google и Amazon выигрывают войну с правительством США https://knife.media/corporations-vs-state/
2. Аузан А. Цифровая экономика: человеческий фактор https://polit.ru/article/2019/06/25/auzan/
3. Ларина Е. и др. Председатель Си: «Данные предпочтительнее слов» http://zavtra.ru/blogs/predsedatel_si_dannie_predpochtitel_nee_slov
4. Ларина Е. и др. Китайская система социального кредита: традиции и технологии http://zavtra.ru/blogs/kitajskaya_sistema_sotcial_nogo_kredita_traditcii_i_tehnologii
5. Hoffmann S. Engineering global consent: the Chinese Communist Party’s data-driven power expansion https://www.aspistrategist.org.au/engineering-global-consent-the-chinese-communist-partys-data-driven-power-expansion/
6. Pei M. The coming crisis of China’s one-party regime https://www.aspistrategist.org.au/the-coming-crisis-of-chinas-one-party-regime/
7. Ахмеджанова Р. «Вы можете улыбаться и хлопать в ладоши, но уже завтра окажетесь в ГУЛАГе»: автор Sapiens напугал Давос https://www.forbes.ru/tehnologii/391789-vy-mozhete-ulybatsya-i-hlopat-v-ladoshi-no-uzhe-zavtra-okazhetes-v-gulage-avtor?utm_source=facebook&utm_medium=social&utm_campaign=izrailskiy-istorik-i-filosof-yuval-noy&fbclid=IwAR0CRqUEOew02cb2fQBteY94egvO0PXn7-ssAR5EaZw3HLWVZY8wdOMf0No
8. Аузан А. Сменить колею в развитии России возможно. Лет через 30. Если начать действовать сейчас http://pltf.ru/2020/02/10/aleksandr-auzan-br-smenit-koleju-v-razvitii-rossii-vozmozhno-let-cherez-30-esli-nachat-dejstvovat-sejchas/
9. Овчинский В. Поствирусный Китай https://izborsk-club.ru/18775
10. Ковачич Л. Коронавирус против “большого брата”. Как эпидемия подорвала систему слежки в Китае https://carnegie.ru/commentary/80944
11. Большой брат растерялся: эпидемия в Китае угрожает системе тотальной слежки
https://newizv.ru/article/general/10-02-2020/bolshoy-brat-rasteryalsya-epidemiya-v-kitae-ugrozhaet-sisteme-totalnoy-slezhki
12. Alba D. Facial Recognition Moves Into a New Front: Schools https://www.nytimes.com/2020/02/06/business/facial-recognition-schools.html?action=click&module=Well&pgtype=Homepage§ion=Education.