Гід панікера: Які глобальні загрози на нас чекають та як їх відвернути

Гід панікера: Які глобальні загрози на нас чекають та як їх відвернути

На тлі новин про «китайський» вірус тебе теж турбує, що нова зараза стане другою «чорною смертю»? Боїшся, що штучний інтелект підкорить людство? Більшість людей вважає за краще або не думати про таке (так спокійніше), або панікувати, пише Business Views. Якщо ти теж відчуваєш не дуже позитивні емоції при думці про майбутнє людства, ось кілька реально практичних порад, як кожна людина може боротися з глобальними загрозами.

1. Незвідані небезпеки суперінтелекту

Відразу й незрозуміло, чому б не поставити на перше місце зміну клімату, яка з кожним роком стає все більш критичною для нашого існування. Але давайте розбиратися.

Витрати на розробку ШІ значно більші, ніж на запобігання проблем з ним

Зараз існує «слабкий» штучний інтелект, що здатен перевершити людину в якихось вузьконаправлених сферах. Довгострокова мета ─ створити «сильний» ШІ, або суперінтелект, який зможе перевершувати людину майже в будь-якому розумовому завданні.

Штучний інтелект одночасно несе з собою і неймовірний прогрес, і безліч небезпек. Проблема в тому, що на розвиток ШІ витрачаються мільярди доларів, а на дослідження ризиків та їхнє зниження ─ 9 мільйонів.

Можливо, повноцінний штучний інтелект створять вже скоро

Передбачувані ризики можуть стати реальними, коли ШІ зможе замінити людину і стане розумнішим. На графіку нижче представлені прогнози, коли ШІ досягне інтелектуального рівня людини.

 

І він може стати загрозою для людства

Якщо це станеться, то ШІ, можливо, зможе не тільки приносити користь, а й приймати рішення, що завдають серйозної шкоди людству. Машина, яка розумніша за людину, буде розуміти, що ми можемо її вимкнути, тому буде всіляко показувати, що вона робить те, чого ми хочемо.

Але й зупинити розробку ШІ неможливо ─ він може врятувати безліч людей і зробити наше життя набагато легше, зручніше, краще. Винахід суперінтелекту, як припускають багато дослідників, допоможе покінчити з війною, хворобами, злиднями, зробити машини безпечніше…

Головне — встановити контроль над машиною. Для цього потрібно проводити дослідження та запобігати можливим ризикам до появи суперінтелекту. Ми повинні переконатися, що ШІ буде виконувати те, що запрограмувала у нього людина, без будь-яких відхилень і непередбачених результатів.

Нижче представлені приклади загроз від ШІ, які існують вже зараз. Звичайно, цей список не є остаточним.

1. ШІ запрограмований робити щось корисне, але він вибере руйнівний варіант досягнення поставленої мети. Такі машини будуть намагатися досягти мети будь-якими способами. Починаючи від відключення можливості її вимкнути до численних смертей. Складно буде і внести зміни у цілі вже працюючої програми, бо вона буде всіляко перешкоджати цьому.

2. ШІ запрограмований робити щось руйнівне. Наприклад, зброя зі штучним інтелектом, яка потрапить в руки злочинця або психічно хворої людини. Таку зброю буде вкрай складно знешкодити.

3. Маніпуляції через ЗМІ. Поширення пропаганди за допомогою використання персональних даних та алгоритмів.

4. Дискримінація, можлива завдяки збору та обробці персональних даних. На основі якогось фактів, які ти волів би приховати, тобі може бути відмовлено у медичній допомозі, страховці, прийнятті на роботу, у кредиті, освіті і т. ін.

5. Економічні загрози. Штучний інтелект зможе робити низькокваліфіковану роботу, що призведе до масового безробіття та різкого падіння рівня зарплат.

Хоча не всі з цим згодні

Не всі дослідники вважають, що це пріоритетна проблема. Ось деякі з доводів проти:

— до появи суперінтелекту ще дуже далеко;

— змусити ШІ діяти в наших інтересах буде легко;

— суперінтелект ніколи не зможе завдати глобальної шкоди планеті.

Що можна зробити, щоб песимістичні прогнози не справдилися?

Якщо ти хочеш кинутися в гущу подій, то робота в компаніях, які досліджують ризики ШІ якраз для тебе — можна безпосередньо працювати зі зниженням ризиків ШІ, вирішуючи технічні питання (якщо ти програміст).

Уряд Сінгапуру у 2019 зайняв 1 місце з готовності використовувати потенціал ШІ на повну. У країни є стратегія розвитку штучного інтелекту і навіть Дорадча рада із ШІ. Україна займає 63 місце з 194 із готовності до ШІ. Але стратегії у нас поки що немає. Ти можеш стати першим депутатом, який її запропонує (якщо станеш депутатом).

2. Біоризик: поширення вірусів та епідемій

Чому це так небезпечно?

Штучно створені патогени набагато складніше контролювати, ніж, наприклад, ядерну зброю. Штучні віруси вимагають значно менших ресурсів для створення та поширення, ніж організація та здійснення ядерного вибуху. Патоген ви винайшли і випустили у світ, а ядерна зброя знаходиться під наглядом держави. Небезпека посилюється тим, що існує дуже мало досліджень щодо зниження ризиків від штучних патогенів.

А ще далеко не всі держави достатньо підготовлені до боротьби з епідеміями. На карті відображено, які країни підготовлені краще, а які навряд чи зможуть впоратися з епідемією. Детальніше читай тут. Спойлер: у України проблеми.

 

 Пріоритетні напрямки в цій сфері:

— поліпшення регулювання, відстеження та запобігання потенційно небезпечним дослідженням;

— посилення вимог герметичності у місцях проведення досліджень;

— запобігання потраплянню вірусів в руки зловмисників;

— поліпшення прогнозування та раннього розпізнавання;

— поліпшення методів і засобів боротьби з вірусами за рахунок винаходу вдосконалених і доступних ліків;

— поліпшення міжнародного екстреного повідомлення та карантинних програм. 

Що можна зробити?

Вважаєш, що влада приділяє мало уваги цій темі? Працюють непрофесійно? Якщо у тебе є відповідні знання, можеш піти на роботу в державні структури, які займаються питаннями охорони здоров’я.

Якщо ти любиш аналізувати дані та хочеш розповісти світу, яких вірусів дійсно варто боятися, робота аналітиком у сфері біобезпеки саме для тебе.

Тобі подобається писати наукові роботи та викладати? Тоді можна займатися наукою — а раптом зробиш якесь дуже важливе відкриття?

3. Можливість використання ядерної зброї

На 2019 рік у світі залишилося 13 865 одиниць ядерної зброї, власниками 90% якої є США та Росія.

 

Джерело: Arms Control Association 

Досі незрозуміло, чи будуть наслідки використання ядерної зброї та «ядерної зими» просто поганими або закінчаться повною катастрофою.

Безпосередньо ризик застосування ядерної зброї дуже малий, але є ряд реальних можливостей із таким результатом:

— виникнення якихось нових обставин та нового міжнародного конфлікту;

— випадкове приведення в дію ядерної зброї;

— одна з країн через технічну помилку подумає, що на неї напали і у відповідь застосує ядерну зброю;

— в одній з ядерних держав буде обраний вкрай безвідповідальний лідер або це станеться через неузгодженість у ланцюжку командування ядерною зброєю.

Пріоритетні напрямки в цій сфері:

— налагодження міжнародних відносин між головними ядерними державами ─ США, Росією, Великобританією, Францією, Китаєм;

— переконання політиків цих країн ставити у пріоритет відмову від військових методів вирішення спорів;

— забезпечення захисту ядерних матеріалів, щоб у зловмисників не було шансу до них дістатися;

— зменшення запасів ядерної зброї;

— зміцнення інфраструктури на випадок ядерного вибуху;

— поліпшення системи поставок продовольства у разі «ядерної зими». 

Що можна зробити?

Ти можеш проводити дослідження та випробування, визначаючи, якими можуть бути наслідки ядерного вибуху, як знизити ризики та які рішення в цьому плані повинні приймати політики. Це можна реалізувати, працюючи в аналітичних центрах. Наприклад, в Nuclear Threat Initiative.

Займатися організацією запасів їжі на випадок ядерної зими на державному та локальному рівні. Можна працювати в компанії, яка займається виробництвом сухих пайків або організувати щось своє.

А може, тобі вдасться потрапити до міжнародної організації та безпосередньо брати участь у налагодженні взаєморозуміння та хороших відносин між впливовими політиками.

4. Помилки політиків і бюрократів, що призводять до глобальних наслідків

Люди так влаштовані, що вони роблять помилки. Часто дуже дурні помилки. За останнє сторіччя психологи виявили безліч когнітивних викривлень, яким піддається людина та які впливають на її судження та рішення.

І одне діло, коли ти вступив не в той університет або одружився не з тією людиною. Так-так, це все дрібниці. І зовсім інша — коли ви робите помилку в рішеннях, які впливають на життя мільярдів людей та існування планети. Тут помилки можуть закінчитися дуже погано. Приклад: вторгнення США до Іраку в 2003 році. Ціною цього рішення стали трильйони доларів і тисячі життів.

Якщо ти не знаєш, яку вибрати проблему для внесення свого вкладу в майбутнє людства, можливо саме ця тобі підійде, тому що безпосередньо впливає на всі інші. Вирішуючи цю проблему, ми одночасно знижуємо ймовірність низки глобальних загроз, в тому числі тих, про які ми нічого не знаємо.

Що можна зробити?

Від рішень політиків залежить багато, тому приймати їх потрібно професійно. Для цього використовуються різні способи та техніки. Вони, наприклад, допомагають правильно оцінити ймовірність якоїсь події, уникати когнітивних спотворень, прийняти вірне рішення в групі, коли всі сперечаються і не згодні і т. ін. Якщо ти непогано орієнтуєшся у психології прийняття рішень і поведінки людини, то можеш зайнятися дослідженнями в галузі поліпшення існуючої техніки та розробки нових.

Якщо тобі подобається більш практична робота, ти можеш консультувати впливових працівників держорганів або міжнародних організацій.

5. Зміни клімату, що впливають на умови життя

Ймовірність значних змін температури найближчим часом ─ низька. Але наслідки таких змін неймовірно серйозні. Суворі погодні умови, брак продовольства, поширення інфекційних захворювань і не тільки. Тому потрібно розуміти, що рішення цієї проблеми ─ довгостроковий вклад для майбутніх поколінь.

В цій анимації, зробленій для ООН, відображені середні аномалії температури за кожні п’ять років з 1880 до 2100 року. Температурна аномалія — міра, що показує, наскільки реальна температура тепліша чи холодніша, ніж передбачувана в довгостроковій перспективі.

Хоча зміні клімату приділяється багато уваги, лише невелика частина присвячена дослідженню екстремальних ризиків, а також непрямих ефектів від геоінженерії.

Пріоритетні напрямки:

— скорочення викидів парникових газів;

— дослідження у сфері геоінженерії;

— дослідження можливих екстремальних кліматичних змін. 

Що можна зробити?

Тут, знову ж таки, можна піти в науку і закопатися в дані про зміну клімату за минулі 100 років. Також можна робити відкриття і просвіщати людей, наприклад, як цей хлопець на ПостНауці. А якщо теж хочеться в науку, але більше цікавить економіка або державне управління, то можна розробляти кліматичні стратегії та давати поради політикам або корпораціям.

За прогнозами, до 2030 електромобілі зроблять найбільший внесок у скорочення викидів CO2 серед транспорту. Теж хочеш створювати подібні круті штуки для поліпшення життя на землі? Можна стати інженером або ученим в НДДКР.

Cool Earth займається відновленням тропічних лісів. Чому саме вони? Тому що вони неймовірно важливі для балансу нашого клімату. Допомогти цій організації можна як безпосередньо беручи участь у відновленні лісів разом із корінним населенням, так і пожертвувавши гроші.

Проблеми, про які ми не знаємо

Існує дуже велика ймовірність, що є ще більш насущні проблеми, про які ми не маємо уявлення. Поки ми про них не знаємо, ми не можемо нічого зробити. Саме тому дослідження нових загроз є одним з пріоритетних напрямків серед вирішення інших глобальних проблем.

Що можна зробити для будь-якої з цих глобальних проблем?

Цікаво розповідати людям про те, що відбувається в розробці ШІ та якими будуть наслідки? Стань науковим журналістом і розповідай правду, спростовуй фейки та маніпуляції невмілих писак.

Ти дуже сильно зацікавлений у вирішенні якоїсь конкретної проблеми, але не хочеш бути дослідником, ти взагалі юрист/бізнесмен/водій і тебе все влаштовує? Можна жертвувати гроші на вирішення проблеми. Наприклад, сюди: Effective AltruismFuture of Life InstituteCambridge Centre for the Study of Existential Risk або the Global Catastrophic Risks Institute. Ці організації займаються дослідженнями, аналітикою та прогнозами, просвітою і навчанням, охоплюючи найбільш термінові та важливі проблеми.

Джерело: Business Views

Читайте также: