Як виявилось під час розслідування, проведеного журналістами ВВС, педофіли за допомогою технологій штучного інтелекту (ШІ) створюють і продають реалістичні зображення дитячої порнографії.
Деякі покупці отримують доступ до таких картинок, підписуючись на цілком легальні платні сайти контентного обміну на кшталт Patreon. При цьому сам Patreon заявляє, що стосовно таких картинок на сайті діє політика “нульової терпимості”.
Своєю чергою британська Рада начальників національної поліції (NPCC) вважає неприйнятним, коли деякі інтернет-платформи отримують величезний прибуток, не несучи при цьому жодної моральної відповідальності.
А Центр урядового зв’язку (GCHQ) – британська спецслужба, що відповідає за радіоелектронну розвідку та захист державної та військової інформації – заявила ВВС, що “ті, хто чинить сексуальні злочини щодо дітей, користуються всіма можливими технологіями. І деякі навіть вважають, що майбутнє дитячої порнографії пов’язане з контентом, що генерують за допомогою ШІ”.
Автори зображень насильства над дітьми використовують створену штучним інтелектом програму Stable Diffusion для тих, хто займається мистецтвом та графічним дизайном.
Ця програма дозволяє комп’ютерам виконувати завдання, які зазвичай потребують людського інтелекту. За допомогою програмного забезпечення на основі ШІ Stable Diffusion дає можливість користувачам описати словами будь-який образ, що відтворюється на екрані.
Однак, як з’ясувала ВВС, цю програму використовують і для того, щоб створювати реалістичні образи сексуального насильства над дітьми, включно зі зґвалтуванням немовлят та дітей. Підрозділи британської поліції, які розслідують випадки насильства над дітьми в інтернеті, кажуть, що вже бачили такі зображення.
ФОТО,ВВС. За словами Октавії Шипшенкс, інтернет охопила хвиля зображень, створених за допомогою ШІ-технологій
Журналістка-фрілансерка Октавія Шипшенкс кілька місяців займалася розслідуванням цього питання і через благодійну організацію “Національне товариство з запобігання жорстокому поводженню з дітьми” (NSPCC) вийшла на контакт із ВВС, щоб розповісти про результати свого розслідування.
“Після того, як стало можливо створювати зображення за допомогою штучного інтелекту, ринув справжній потік. І йдеться не лише про дуже юних дівчаток, вони [педофіли] говорять уже про малюків”, — каже Шипшенкс.
“Псевдообрази” насильства над дітьми, створені за допомогою комп’ютера, прирівнюються до справжніх фотографій, і їх зберігання, публікація або передача у Британії – незаконні.
За словами Ієна Крітчлі, який очолює в NPCC відділ захисту прав дітей, не можна говорити: якщо на таких “синтезованих” картинках не зображені реальні діти, від цього ніхто не страждає.
Крітчлі попереджає, що педофіл може “еволюціонувати за шкалою злочину від ідеї до синтезованого образу, а потім і до насильства над справжньою дитиною”. Процес поширення зображень зі сценами сексуального насильства складається з трьох етапів:
- педофіли створюють образи за допомогою програм штучного інтелекту;
- вони пропонують ці образи на таких платформах, як японський сайт з обміну картинками Pixiv;
- облікові записи цих сайтів направляють клієнтів за посиланнями до більш витончених картинок, які можна переглядати за гроші на таких сайтах, як Patreon.
Деякі з таких зображень їхні автори розміщують на популярній японській платформі Pixiv, яку зазвичай використовують художники, що спеціалізуються на манга й аніме.
Але оскільки це японський сайт, де обмін малюнками з яскраво вираженою сексуальною конотацією, зокрема із зображенням дітей, не вважається незаконним, автори використовують його для реклами своїх робіт, у тому числі з використанням гештегів, які є ключовими словами для індексації за тематикою.
За словами представника Pixiv, створенню образів за допомогою ШІ приділяється величезна увага, і з 31 травня на сайті заборонили всі реалістичні зображення сексуального насильства за участю малолітніх.
У компанії заявили, що посилили систему моніторингу й виділили значні ресурси для протидії проблемам, пов’язаним із розробками в галузі штучного інтелекту. Як розповіла ВВС Октавія Шипшенкс, її дослідження дозволяє зробити висновок, що зображення сексуального насильства над дітьми виробляють у промислових масштабах.
“Обсяг настільки великий, ніби люди [автори] сказали: наша мета – робити по тисячі зображень на місяць”, – пояснює вона. З коментарів деяких користувачів Pixiv випливає, що вони мають сексуальний інтерес до дітей, а деякі навіть пропонують поділитися реальними, а не згенерованими за допомогою штучного інтелекту фото й відео сексуального насильства.
Шипшенкс також відстежувала деякі групи на цій платформі. “Всередині цих груп, у яких буває по 100 учасників, люди діляться один з одним: о, ось посилання на щось справжнє”, — розповідає вона.
Порнографія за прейскурантом
Багато з акаунтів на Pixiv містять посилання, що перенаправляють користувачів на те, що вони називають “контентом без цензури” на американському сайті Patreon. Patreon оцінюється в $4 млрд і стверджує, що має понад 250 тис. авторів контенту (кріейторів). Переважно це легітимні акаунти, що належать різним знаменитостям, журналістам і письменникам.
Фанати можуть підтримувати своїх кріейторів за допомогою щомісячної підписки, яка коштує від $3,85 і дає доступ до блогів, подкастів, відео та зображень. Однак під час спільного розслідування ВВС й Октавії Шипшенкс з’ясувалося, що на акаунтах Patreon пропонують і реалістичні, створені за допомогою технології ШІ зразки дитячої порнографії за різними розцінками, залежно від типу матеріалу.
“Я муштрую своїх дівчаток в комп’ютері”, – пише користувач одного з таких акаунтів, додаючи, що вони демонструють “покірність”. Інший користувач за $8,30 на місяць пропонує “ексклюзивне мистецтво без цензури”.
ВВС направила Patreon один з таких зразків, і компанія підтвердила, що він є “напівреалістичним і порушує її політику”. Вона також повідомила, що негайно закрила цей обліковий запис.
Patreon стверджує, що дотримується політики “нульової терпимості”, наполягаючи на тому, що “кріейтори не можуть фінансувати контент, присвячений сексуальним темам за участю неповнолітніх”.
У компанії також заявили, що збільшення в інтернеті обсягів шкідливого контенту, створеного за допомогою нейромереж – “цілком реальне і викликає тривогу”. Там додали, що вже “виявляють і видаляють дедалі більші обсяги” такого матеріалу.
“Ми вже заборонили весь створений за допомогою штучного інтелекту матеріал, пов’язаний із сексуальною експлуатацією дітей”, — йдеться у заяві компанії, яка називає себе “дуже проактивною”, оскільки має спеціально виділені команди фахівців, технології та працює з партнерами для “забезпечення безпеки підлітків”.
Генератор ШІ-образів програму Stable Diffusion створили під час глобального співробітництва вчених й низки компаній на чолі з британською фірмою Stability AI. Випустили кілька версій цієї програми, причому в її код вписали обмеження, що контролюють контент кінцевого продукту.
Однак минулого року у відкритий доступ вийшла рання версія з відкритим кодом, що дозволяє користувачам видаляти будь-які фільтри та змушувати програму створювати будь-які образи, у тому числі протизаконні. У Stability AI заявили ВВС, що “забороняють використання програми з незаконною чи аморальною метою на всіх наших платформах, і в нашій політиці чітко прописано, що це передбачає матеріали сексуального насильства над дітьми”.
“Ми повністю підтримуємо зусилля правоохоронців щодо боротьби з тими, хто зловживає нашою продукцією, використовуючи її з незаконною чи злочинною метою”, — йдеться також у заяві Stability AI. У міру швидкого розвитку ШІ-технологій виникають запитання й щодо ризиків, які вони можуть мати для приватного життя людей, їхніх прав та безпеки.
“GCHQ надає підтримку правоохоронним органам, щоб вони були готові впоратися з такими загрозами, як створюваний за допомогою штучного інтелекту контент, та не давали порушникам почуватися в безпеці”, – заявила ВВС очільниця місії GCHQ з боротьби із сексуальним насильством щодо дітей Джо (її справжнє ім’я не називають задля безпеки).
Представник NPCC Ієн Крітчлі також побоюється, що потік реалістичних, створених за допомогою нейромереж образів, може уповільнити виявлення справжніх жертв сексуальних домагань.
“Це створює додаткові вимоги до правоохоронних органів, яким доведеться з’ясовувати, чи зазнає десь у світі сексуального насильства справжня дитина, чи це штучне, синтезоване зображення”, — пояснює він. Крітчлі вважає, що для суспільства настав поворотний момент.
“Або ми забезпечимо, щоб інтернет й технології давали фантастичні можливості молодим людям, або інтернет стане значно небезпечнішим місцем”, — каже він.
NSPCC звернулася до технологічних компаній із закликом уважно поставитися до цієї проблеми.
“Швидкість, з якою всі ці нові технології взяли на озброєння зловмисники, приголомшує, але не дивує, тому що компанії, які ми попереджали про небезпеку, сиділи склавши руки, виголошуючи лише порожні слова, — заявила Ганна Едмундсон, яка відповідає за політику та зв’язки з громадськістю у цій благодійній організації.
“Тепер технологічні компанії знають, що їхня продукція використовується на користь сексуального насильства над дітьми, і їхню бездіяльність уже нічим не можна виправдати”, – додає вона.
“Закон про безпеку в інтернеті вимагатиме від компаній проактивних дій для боротьби з усіма формами сексуального насильства над дітьми в мережі. Це, зокрема – психологічна маніпуляція, прямі трансляції, матеріал, що містить елементи сексуального насильства над дітьми та заборонені зображення дітей. Інакше їм загрожуватимуть величезні штрафи”, — заявив представник британського уряду.
Автори: Ангус Кроуфорд і Тоні Сміт
Джерело: ВВС