YouTube і соціальні мережі заполонила реклама шахрайських проєктів, які, прикриваючись відомими брендами і персонами, викачують гроші з довірливих користувачів по всьому світу. Фейки з Ілоном Маском, що використовуються в таких схемах, навіть об’єднали багатьох – у жадобі швидких грошей на розлучення ведуться всі.
Шахраї обіцяють “швидкий і надійний спосіб почати отримувати від кількох сотень до кількох тисяч доларів на день”, а забезпечити таку прибутковість має містична система, яку нібито розробили великі компанії на кшталт Tesla, Revolut, “Газпром” або люди – Маск, Безос, Баффет і навіть Навальний. Видання “Холод” розповідає про міжнародну систему шахрайства.
Суть схеми досить проста: шахраї купують рекламу на популярних сервісах, таких як YouTube, Facebook або Instagram. Після цього вони просувають свої рекламні ролики, які можна розділити на два типи. Перший – персоніфікований: у ньому використовується нібито пряма мова відомої людини, яка пропонує користувачеві взяти участь у роботі його програми. Після підключення до цієї програми користувач нібито почне отримувати від кількох сотень до кількох тисяч доларів на день;
Для переконливості шахраї використовують найбільш впізнаваних персон у своєму регіоні: наприклад, в Азербайджані використовували фейкові цитати президента країни Ільхама Алієва. А для російської та американської аудиторії – відео з Ілоном Маском, який нібито особисто розповідає про “унікальну можливість назавжди залишити позаду щурячі перегони”.
Другий тип роликів експлуатує відомі бренди. Наприклад, у Грузії, Росії та Азербайджані в схему заманювали за допомогою програм від “Газпрому” та азербайджанського нафтогазового гіганта SOCAR. У Східній Європі, зокрема, в країнах Балтії, в аналогічних роликах використовували інші бренди, наприклад, заснований вихідцями з Росії та України і популярний серед російськомовного населення Східної Європи банк Revolut.
Серед відомих брендів, якими намагалися заманити шахраї, також були Tesla і SpaceX Ілона Маска, Amazon Джеффа Безоса, а в окремих випадках навіть брокерські фірми, серед яких одна з найбільших у світі – американська Interactive Brokers. Таргетинг у роликів був настільки продуманий, що унікальні, підігнані під них пропозиції отримували навіть користувачі з Молдови.
У рекламних роликах користувачам розповідали про можливість заробляти великі суми грошей щодня без ризику, експлуатуючи бренд або особу, наводили аргументи на користь того, що подібні інвестиції безпечні, практично завжди показували фейкові зарахування грошей на баланс від системи та пропонували приєднатися до проєкту за посиланням;
Коли користувач потрапляв на сайт програми, перед ним поставало досить просте поле для реєстрації та форма для поповнення балансу. Як правило, після зарахування перших коштів на зв’язок із користувачем виходили представники “сервісу” – вони тиснули на жадібність і переконували жертву занести в систему більше грошей. Коли ж їм це вдавалося, вони пропадали разом із грошима.
Персоніфіковані ролики робили за допомогою штучного інтелекту. Для виробництва таких відео шахраї беруть справжнє інтерв’ю, наприклад Ілона Маска, пишуть новий текст, у якому рекламується неіснуюча інвестиційна програма, озвучують його за допомогою штучного інтелекту, що підробляє голос, і також за допомогою нейромереж підганяють рух губ умовного Маска під нову озвучку.
Сервіси, за допомогою яких робиться діпфейк, коштують невеликих грошей – від 2 до 10 доларів, а прибуток, за підрахунками консалтингової корпорації Deloitte, обчислюється мільярдами доларів. Незнаюча людина навряд чи відрізнить фейкове інтерв’ю від справжнього;
Географія шахраїв велика. За даними The New York Times, здебільшого вони з Індії, Китаю та Східної Європи, зокрема – з Росії. Вони закуповують рекламу і налаштовують її під найвразливіші та найприбутковіші ринки.
“Життя, про яке ви давно мріяли”
Одним із тих, хто попався на подібне відео, став 82-річний американський пенсіонер Стів Бошамп. Наприкінці 2023 року він побачив ролик, у якому Ілон Маск рекламував інвестиційну програму, що обіцяла швидкі виплати. Тоді він подумав, що це гарна можливість заробити грошей для своєї сім’ї;
Подивившись рекламу, він перейшов на сайт і зв’язався з компанією, яка пропонувала брати участь у “програмі Ілона Маска”. Бошампа попросили відкрити інвестиційний рахунок на 248 доларів – і він послухався. Протягом кількох тижнів він витратив усі свої заощадження – понад 690 тисяч доларів. Після цього консультанти компанії перестали відповідати, а гроші зникли;
“Ну, та людина [що була переді мною] – це був він [Ілон Маск]… Але чи змушував його штучний інтелект говорити те, що він говорив, я не знаю. Якби мене попросили: “Вибери його з низки людей”, я б сказав, що це він”, – розповів потерпілий пенсіонер;
І справді, незважаючи на те, що створити таке відео коштує невеликих грошей, діпфейк Ілона Маска дуже схожий на оригінал: журналісти NYT зазначають, що фейк має таку саму розмірену манеру мовлення та південноафриканський акцент, що й справжній Маска.
Для одного з відео шахраї взяли справжнє інтерв’ю Ілона Маска, яке він дав The Wall Street Journal. В обробленому за допомогою ШІ ролику він обіцяє “життя, про яке ви давно мріяли” і “назавжди залишити позаду щурячі перегони”.
“Чи можете ви уявити собі 237 доларів щогодини, щодня до кінця свого життя? У якій би ситуації ви не перебували, якщо ви хочете заробити один мільйон доларів і залишити щурячі перегони позаду – це програма для вас. <…> Це абсолютно безризикова можливість. Оскільки втрачати нічого, я надаю вам цю можливість безкоштовно. Просто перейдіть за посиланням під цим відео”, – говорив “Маск” із ролика.
За словами Франческо Каваллі, співзасновника компанії Sensity, що відслідковує діпфейки в інтернеті, реклама з Маском – найбільший прецедент діпфейк-шахрайства в історії. Вивчивши близько двох тисяч подібних рекламних роликів, компанія прийшла до висновку, що саме Ілона Маска найчастіше використовували як “балакучу голову”, що рекламує шахрайські схеми під виглядом інвестиційних програм;
У своїх роликах шахраї використовували також інвестора і одного з найбагатших людей світу Воррена Баффета, статки якого у 2024 році оцінювалися у 146 мільярдів доларів, а також засновника компанії Amazon Джеффа Безоса. Але Ілон Маск з’являвся в подібній рекламі частіше за інших – він “грає” в чверті всіх діпфейк-роликів і в 90% шахрайських відео про криптовалюти;
Підрахувати обсяг дипфейк-реклами в інтернеті неможливо. Основний канал поширення шахрайських роликів – рекламні інструменти в соціальних мережах і на YouTube. Журналістам NYT вдалося знайти безліч подібних відео в бібліотеці оголошень на фейсбуці за допомогою пошуку за ключовою фразою.
На ютубі шахраї часто використовують й інший метод: скачують трансляцію події, що вже сталася, роблять із неї діпфейк і транслюють на власному ютуб-каналі як прямий ефір. Такі трансляції збирають сотні тисяч глядачів, хоча насправді є попередньо записаними діпфейками. При цьому кількість глядачів на трансляції штучно завищується ботами – щоб потенційні жертви не сумнівалися в автентичності того, що відбувається;
За сюжетом однієї з таких “трансляцій”, присвяченій біткоїну, діпфейк Ілона Маска обіцяв особисто подвоїти будь-яку суму в крипті, яку відправлять йому на криптогаманець;
В інтернеті з’являється дедалі більше повідомлень людей, які втратили не просто частину своїх грошей через діпфейки, а всі заощадження, які в них були. Наприклад, один із глядачів, неназваний мешканець Техасу, переслав “Ілону Маску” 36 тисяч доларів заощаджень в біткоїні – і вони просто зникли.
Вплив фейків зріс настільки, що в травні 2024 року Комісія Гонконгу з цінних паперів і ф’ючерсів випустила попередження про те, що в інтернеті з’явилися діпфейки Ілона Маска. У лютому 2024 року подібне попередження випустила також американська Федеральна торгова комісія, а в травні – ФБР, яке поскаржилося, що через ШІ виявити шахрайську діяльність та ефективно з нею боротися стало набагато складніше.
За даними компанії Deloitte, тільки в США за підсумками 2023 року шахраї вкрали за допомогою діпфейків 12,3 мільярда доларів. Компанія підрахувала, що до 2027 року щорічний збиток збільшиться на 40 мільярдів доларів.
Гроші для всіх
“Ілон Маск” просував “свою програму для заробітку” і серед росіян ще до початку повномасштабного вторгнення Росії в Україну. Щоправда, пізніше YouTube відключив монетизацію для користувачів із Росії, і вони перестали бачити рекламу, якщо перебували на хостингу без VPN. У російських версіях шахрайських роликів не було симуляції голосу мільярдера, зате за допомогою нейромережі було накладено російську озвучку. Як і у випадку з американськими роликами, посилання під відео вели на шахрайські сайти.
Крім Ілона Маска, у російському сегменті ютуба вірусилися рекламні ролики нібито державної корпорації “Газпром” із приблизно таким самим змістом. У них стверджувалося, що Держдума у 2019 році ухвалила закон, що дозволяє торгувати газом усім громадянам. Посилання під ними вели на шахрайські сайти, а в App Store і Google Play Market навіть з’явилися додатки, що імітують підрозділ Газпромбанку “Газпром Інвестиції”.
У Грузії, Азербайджані та Україні в рекламу ютуба потрапляли не тільки ролики псевдо-“Газпрому”, а й фейки державної нафтогазової компанії Азербайджану SOCAR. На початку 2024 року компанія теж випустила заяву, в якій говорила, що отримала десятки звернень від громадян, пов’язаних із шахрайськими дзвінками та фейковими застосунками. Компанія передала цю інформацію в МВС Азербайджану, а Міністерство цифрового розвитку і транспорту видаляє фейкові застосунки, де пропонують нібито інвестиційні програми.
У роликах часто використовували виступи президента Азербайджану Ільхама Алієва. Як і з діпфейк-копією Ілона Маска, шахраї “з надприродною точністю” імітували його промову і пропонували вкластися у фейкові інвестиційні програми, що обіцяли істотний заробіток. Подальша схема та сама: людина переходить на сайт, наприклад socar.space, фейкової компанії SOCAR Invest і починає з вкладення невеликої суми. Після цього шахраї вимагають дедалі більше грошей і не повертають їх. В Україні ж пропонувалося вкластися в нібито дочірню компанію SOCAR.
На початку 2024 року для частини російських користувачів шахраї навіть зробили версію ролика, в якій експлуатували смерть російського політика Олексія Навального. У роликах і на фейкових опозиційних новинних ресурсах поширювали скріншот листа з колонії, в якому нібито Навальний пише своїй дружині Юлії про те, що “п’ять років розробляв програму, за участь у якій платять по 600 доларів щодня”, – і тепер хоче поділитися нею з усіма. Під постом фейкової групи було розміщено посилання, яке, як і у випадку з Маском, вело на сайт шахраїв.
Крізь пальці
І YouTube, і Meta, які розміщують шахрайську рекламу на своїх ресурсах, заявляли, що намагаються боротися з діпфейками. Хоча в YouTube стверджують, що тільки в період із січня по березень 2024 року видалили 15,7 мільйона каналів, які порушили правила хостингу, лише 1,1% з них було видалено через спам або дезінформацію. 19 березня 2024 року хостинг оновив свої правила користування для творців контенту та зобов’язав їх відмічати відео, зроблені за допомогою штучного інтелекту, однак це не стосується реклами, яку хостинг демонструє під час перегляду користувацьких відео.
У разі якщо відео, в яких присутній згенерований штучним інтелектом контент, не буде позначено, на порушника чекають покарання: від позбавлення каналу монетизації до повного видалення. Винятком із цього правила є відео, зроблені для Youtube Kids – у 2023 році хостинг зробив на дитячому контенті 959 мільйонів доларів, і він є одним із найважливіших сегментів для компанії з погляду виручки. Тому дитячі мультики, в яких присутній ШІ-контент, позначати не потрібно. Як нові правила оформлення користувацького контенту мають вирішити проблему з шахрайською рекламою – поки незрозуміло.
У Meta розповіли про те, що тренують програму з автоматичного виявлення фейків на фейсбуці, в інстаграмі та в Threads (аналогу твіттера), але також пояснили, що шахраї постійно змінюють тактику, і через це боротьба з ними схожа на “гру в кішки-мишки”. Експерти вважають, що компанія вирішила зайнятися діпфейками надто пізно – коли вони вже стали реальною загрозою і завдали суттєвих збитків.
Також компанію звинувачують у тому, що вона почала займатися цим тільки в самий розпал виборів у президенти в США. У відповідь на це в Meta заявили, що завжди додавали в контент, зроблений за допомогою їхніх програм, зашифровані метадані та вотермарки – нібито так користувачі мали зрозуміти, що це фейк. Оперативно ж відрізняти діпфейки, коли вони тільки-но з’явилися, у компанії не навчилися, тому розраховували на користувачів.
Зволікання Meta призвело до того, що австралійський мільярдер Ендрю Форрест, чиї діпфейки також почали з’являтися на фейсбуці, подавав цивільний позов проти компанії Meta за недбале ставлення до ведення рекламного бізнесу. За його словами, “реклама на фейсбуці заманює невинних користувачів у погані інвестиції”;
Наразі Meta планує запровадити новий інструмент боротьби проти діпфейків – технологію розпізнавання облич. Вона повинна буде працювати разом із технологією штучного інтелекту компанії, щоб позначати недостовірну рекламу. Щоправда, Meta вже використовувала технологію розпізнавання облич у фейсбуці в 2010-2021 роках, але відмовилася від неї через проблеми з точністю розпізнавання і захистом особистих даних.