Как искусственный интеллект может вас ограбить, сделать послушным власти или убьет

Недавно машина на автопилоте насмерть сбила человека в Британии. Это уже третья авария с участием таких машин. В ближайшие месяцы в западной прессе стоит ждать волну статей с требованием остановить разработку машин без водителей.

В 2017 году группа экспертов представила доклад "Злонамеренное использование искусственного интеллекта". Исследователи изучили возможные сценарии применения уже существующих технологий в преступных целях. Что плохого искусственный интеллект может сделать человеку?

1. Искусственный интеллект выдаст себя за твоего друга и украдет деньги с карточки

Странные письма свергнутых африканских наследников с просьбой перевести деньги, фальшивые запросы банков изменить пароль, уведомления госслужб об оплате сомнительных услуг — это все фишинг, интернет-мошенничество.

Сегодня достаточно проявить немного внимательности, чтобы понять, что вас пытаются развести. Однако, согласно исследованию, применение ИИ сделает фишинг более индивидуальным, изощренным и завуалированным. Фейковые тексты будут выглядеть как взаправду составленные людьми. Поэтому получить доступ к вашим банковским счетам, страницам в соцсетях, почте станет в разы проще.  

Как работает таргетированный фишинг. Источник: Boise State University

Авторы доклада не исключают, что киберпреступники могут использовать уже существующие разработки. Например, программу AlphaGo, которая обыграла лучшего в мире игрока в го, или OpenAI, "поставившую на место" 3-х топовых профессионалов DotA 2. Такие самообучающиеся алгоритмы кроме просчета ходов в игре могут анализировать активность пользователей в сети, а также генерировать множественные попытки взлома систем. Благодаря алгоритмам чат-боты научатся имитировать манеру письма ваших друзей и родственников, а вирусные атаки хакеров станут стихийными и массовыми.

В отчете также указано, что ИИ позволит быстрее и качественнее генерировать фейковый аудио- и видеоконтент. Впрочем, уже существуют алгоритмы, способные заменять лица в видеороликах в реальном времени. Применение этой технологии сулит множество этических проблем, и, возможно, политика, которую многие называют грязной, станет еще грязнее.

Кстати о политике.

2. Технологии помогают власти в борьбе с оппозицией

Кроме соцсетей, сайтов по продаже всего на свете и злоумышленников эту информацию запросто могут использовать спецслужбы.

Исследователи описывают поистине зловещий сценарий в духе голливудских блокбастеров типа "Враг государства" или "Особое мнение". ИИ будет отслеживать и анализировать любую деятельность человека как онлайн, так и офлайн. Если вы активно критикуете власть в интернете, то попадешь в зону риска. Тоталитарные правительства с помощью ИИ могут выявлять  потенциальных оппозиционеров и арестовывать их заранее, для профилактики.

Жители Синьцзян-Уйгурского автономного района КНР уже под "колпаком". Власти следят за ними с помощью систем распознавания лиц, а также ведут учет их ДНК.

Рабочая система распознавания лиц в Китае. Источник: Usbek & Rica

Китай вообще известен как страна, в которой технологии служат авторитарной власти: "Золотой щит" фильтрует интернет, боты формируют положительный образ компартии в интернете, а через пару лет всем гражданам будет присвоен рейтинг, в зависимости от которого они получат либо дополнительные привилегии, либо ограничения в правах. Улучшить рейтинг поможет в том числе лояльность к власти.

Технологии для слежки используют во всех странах, в том числе в демократических. ЦРУ и АНБ следят не только за своими гражданами, а вообще за всем миром. Поэтому думай дважды, прежде чем что-то постить на своей страничке, потому что однажды кофе в постель вам могут принести заботливые спецназовцы.

Как американские спецслужбы собирают информацию о гражданах. Источник: The Verge

3. Террористы будут выслеживать своих жертв с помощью умных роботов

Представь робота-убийцу. Представил? Несмотря на то что ты, скорее всего, подумал о Терминаторе, авторы доклада считают, что угрозу представляют роботы-уборщики и обычные квадрокоптеры. ИГИЛ уже применял боевые дроны в Ираке и Сирии.

Исследователи смоделировали ситуацию, при которой внедренный террористами в государственное учреждение робот-уборщик, оборудованный бомбой и детектором лиц, выслеживает премьер-министра и взрывается. Как раз для этого ему нужен будет искусственный интеллект — чтобы взорваться в правильное время и в правильном месте.  

Однако, учитывая количество роботов-пылесосов (диаграмма ниже), какова вероятность того, что в будущем твой сосед не захочет отомстить вам за протекший потолок, взорвав твою квартиру крохой-роботом?  

Как продвигаются продажи роботов для домашнего пользования. Источник: Statista

Угрозу может представлять и оружие с ИИ. Так, снайперские винтовки уже не требуют от бойцов большого опыта и специальных умений — оружие само прицелится, а пуля настигнет мишень, человеку достаточно лишь спустить курок.

Звучит пугающе, но эксперты советуют не отчаиваться и не паниковать. Поверь, если вас захотят взломать, то и так это сделают хоть с помощью искусственного интеллекта, хоть без него. 

Тем временем просто соблюдай элементарные правила "гигиены" в сети: не посещай сомнительные сайты, не скачивай подозрительный, пиратский софт, думай, с кем и чем делишься в соцсетях.  

Люди всегда боялись неизвестного — и продолжают бояться до сих пор

Если раньше боялись демонов, то сейчас — технологий, которые способны уничтожить человечество (хотя демонов тоже все еще опасаются). Страх — это эволюционный механизм, который помог людям выжить сотни тысяч лет назад, потому что лучше испугаться привидевшегося саблезубого тигра и сбежать, чем не заметить его и стать обедом. Но в XXI веке страх мешает человечеству развиваться.

Вы не осмеливаетесь предложить новый проект начальнику, потому что думаешь, что он более опытный и засмеет ваши глупые идеи. Миллионы людей боятся искусственного интеллекта или ГМО, поскольку не понимают, что инструменты сами по себе не могут быть хорошими или плохими.

Будущее искусственного интеллекта зависит от того, кто станет им управлять. Будут ли компании предлагать вам товары на основании ваших постов в соцсетях? Точно будут. Захотят ли государства уничтожить врагов с помощью ИИ? Возможно. Как с этим жить? Мы точно не знаем. Но знаем, что будущее технологий зависит от рассудительности и ответственности каждого из нас. Чистить лопатой снег или рыть ею могилу для покойника — решать вам.

Источник:  BusinessViews