Прогностичні алгоритми у поліційній діяльності — добро чи зло?

У листопаді 2011 року журнал TIME назвав «прогностичну поліційну діяльність» (predictive policing) абоPredPol одним з 50 кращих винаходів року. «Вікіпедія» зазначає, що прогностична поліційна діяльність стосується використання математичних, прогностичних й аналітичних методів у правоохоронних органах для виявлення потенційної злочинної діяльності.

Методи прогностичної поліційної діяльності поділяються на чотири загальні категорії: методи прогнозування злочинів, методи прогнозування правопорушників, методи прогнозування ідентичностей винуватців і методи прогнозування жертв злочину. Разом з ресурсом e-flux намагаємось зрозуміти, про що мова, та дійти висновків через кілька років застосування технології на практиці.

Співпраця ботанів і копів

У 2011 році Школа управління ім. Джона Ф. Кеннеді Гарвардського університету й Національний інститут юстиції США опублікували спільну працю під назвою «Поліційна наука: рух до нової парадигми», ідеї якої були розроблені на засіданні виконавчої сесії з питань поліції та громадської безпеки, що відбулась у Гарвардському університеті.

Документ закликав до «радикального реформування ролі науки у поліційній діяльності», визначаючи пріоритети політики, що ґрунтується на доказах, і наголошуючи на необхідності тіснішої співпраці між науковцями й поліційними відділами. Автори Девід Уайсбурд (David Weisburd) і Пітер Нейруд (Peter Neyroud) стверджували, що «застосування наукових досягнень у поліційній справі є необхідним, якщо поліція хоче зберегти підтримку населення та легітимність своїх дій».

Враховуючи те, що критики американської поліції асоціюють правоохоронні органи з довільним застосуванням сили, расовою дискримінацією та неконтрольованими повноваженнями щодо прийняття рішень стосовно того, хто житиме, а хто помре, ребрендинг поліційної діяльності таким чином, щоб зосередити увагу на статистичній безособовості й символічно усунути домінування окремих офіцерів, – це доцільний спосіб зобразити поліційну діяльність нейтральною, неупередженою та раціональною.

Параноя

Що ж, власне, робить PredPol? PredPol – це програма, яка використовує алгоритми (розроблені на основі рівнянь, що використовуються для визначення підземних поштовхів, які слідують після землетрусів), аби визначити, де і коли відбудуться злочини, ґрунтуючись на наборах даних минулих злочинів. Наприклад, у Санта-Круз, штат Каліфорнія, одному з міст, де вперше застосували PredPol, для прогнозування було використано дані про місцеві злочини за останні 11 років.

У поліційних відділах, які використовують PredPol, офіцерам дають роздруковані мапи, на які нанесені червоні квадратики, що вказують на регіони, де протягом дня, за прогнозами програмного забезпечення, станеться злочин. Офіцери повинні періодично патрулювати ці регіони у надії на те, що вони або впіймають злочинців, або завадять потенційним злочинцям вчинити правопорушення.

У критиків PredPol одразу ж виникло безліч питань, зокрема: яким є ставлення чи психологічна налаштованість офіцерів, які патрулюють один з таких позначених червоним квадратиком регіонів? Чи сподіваються офіцери стати свідками злочину, потрапляючи у такий регіон? Як очікування стати свідком злочину може вплинути на те, що власне «знаходять» поліціянти?

Чи будуть люди, які переміщаються такими так званими «тимчасовими зонами кримінальної активності», автоматично сприйматись як підозрілі? 22 листопада 2014 року офіцеру поліції Клівленда Тімоті Лехманну (Timothy Loehmann) знадобилось менше як дві секунди, аби застрелити Таміра Райса (Tamir Rice), дванадцятирічного афроамериканця, який грався іграшкою. Постає питання: якщо співробітники правоохоронних органів уже готові так просто застосовувати зброю, чи маленькі червоні квадратики, що позначають тимчасові зони злочинності, зменшать час реакції офіцерів, які знаходяться у таких регіонах?

А як діятиме цивільне населення, перебуваючи у таких місцевостях? Зазвичай, у людини, яка потрапляє у район, за яким спостерігає поліція, виникають додаткові причини для страху. Однак, враховуючи те, що цивільне населення не знає, де і коли з’являться червоні квадрати, громадяни не можуть знати, коли перетинають тимчасові зони кримінальної активності. Така невизначеність, стверджують психологи-критики, вже може викликати у людини відчуття того, що вона перебуває під постійним наглядом.

Крім того, моделі передбачення залежать від наборів даних, що використовуються для прогнозування, тому важливо запитати, хто збирає дані та яким чином. Хоча дані позиціюють як нейтральні біти інформації про наш світ і нашу поведінку у сфері кримінального правосуддя, вони є відбиттям того, на кого було спрямоване спостереження. Критики стверджують, що PredPol – це спосіб легітимізувати упередження поліції, адже тепер офіцери патрулюють ті райони, на які їм вказує програма, алгоритми якої, утім, розроблені на основі довготривалої моделі поведінки поліціянтів.

Помилковий позитив

За кілька років використання технології прогностичної поліційної діяльності можна знайти безліч позитивних відгуків про її застосування. Проте, з огляду на складність вимірювання ефективності методів прогнозування таких дій, існує ризик помилкового зв’язку «позитивних» результатів правоохоронних заходів з використанням ПЗ. Не існує чіткої узгодженої інформації щодо того, як виміряти успіх ПЗ.Коли поліціянти прямують патрулювати червоні квадратики, чи передбачається, що вони ловитимуть злочинців у процесі вчинення злочинів, чи що своєю присутністю вони стримають вчинення правопорушень? У першому випадку еталоном успіху буде збільшення кількості арештів на визначених територіях, а у другому – навпаки, їх зменшення. Однак обидва кінцеві результати були використані для підтвердження успіху PredPol.

Дарма, що сайт PredPol рекламує «науково доведені результати застосування ПЗ», жодна незацікавлена сторона жодного разу не підтвердила заяви компанії. Більшу тривогу викликає той факт, що PredPol запропонував 50% знижку на ПЗ тим поліційним відділам, які погодились взяти участь у пілотній програмі PredPol. Програма передбачала співпрацю з розробником ПЗ протягом трьох років і вимагала від поліційних відділів надати відгуки, які могли б бути використані для продажу програмного забезпечення.

Криза невизначеності

Невизначеність є одночасно і проблемою інформації, й екзистенційною проблемою, яка формує те, як ми живемо у світі. Якщо ми визнаємо, що існуємо в світі, який є принципово незрозумілим для окремих людей, ми також визнаємо, що їм загрожує будь-яка кількість ризиків, що перебувають за межами нашого контролю. Чим менший ступінь нашого власного контролю, тим більше ми бажаємо порядку, свідчать психологи. І цим прагненням до правопорядку, що посилюється, коли ми усвідомлюємо свою тілесну вразливість до потенційно небезпечних для нас незрозумілих загроз, можуть стратегічно маніпулювати компанії, які використовують алгоритмічні методи поліційної діяльності для запобігання злочинності й тероризму як на рівні держави, так і на світовому рівні.

Катастрофи, війни та злочини можуть ще більше поглиблювати наше колективне прагнення до безпеки. В епоху big data невизначеність представляється як інформаційна проблема, яку можна подолати шляхом комплексного збору даних, статистичного аналізу, який може визначати моделі та відносини, а також за допомогою алгоритмів, що можуть визначати майбутні результати шляхом аналізу минулих результатів. Прогностична поліційна діяльність обіцяє зняти екзистенційний страх, викликаний незнанням того, що станеться, використовуючи дані, аби дати нам точні знання про те, де і коли відбудеться злочин. Дані стають вирішенням проблеми невизначеності, вимагаючи досягнення повної інформованості та подолання людських аналітичних обмежень.

Анонімна ультраліва група Tiqqun пов’язує розвиток кризи невизначеності з розвитком кібернетики. Її представники описують кібернетику як ідеологію управління, самоорганізації, раціоналізації, контролю, автоматизації та технічної впевненості. На думку Tiqqun, ця ідеологія почалася після Другої Світової війни та прагне вирішувати «метафізичну проблему створення порядку з безладу» для подолання криз, нестабільності та нерівноваги, що, за твердженням групи, є невіддільним побічним продуктом капіталістичного розвитку. Однак «метафізична» проблема невизначеності дозволяє кібернетичній ідеології укорінитись.

Попри те, що практично за всіма ознаками «сьогодні американці живуть у “найменш жорстокому часі в історії нації”, самі американці вважають, що рівень злочинності зростає». Немає підстав вважати, що існує безпрецедентний злочинний бум, який загрожує розвалити суспільство, але через «емоційні інвестиції» у подібний світогляд розширюються сфери застосування спостереження та контролю.

Джерело: e-flux, переклад підготувала Ірина Гоял; «Блог Imena.UA»