Система распознавания лиц Amazon перепутала с преступниками 28 конгрессменов США

 В рамках сотрудничества с отдельными полицейскими управлениями США Amazon предоставляет им систему распознавания лиц «Rekognition». 

 В ходе одного из тестов Американского союза защиты гражданских свобод (ACLU), ИИ-система рассмотрела в фотографиях 28 законодателей лица преступников, пишет TechSpot.

Некоммерческая организация ACLU провела испытания искусственного интеллекта Amazon, в ходе которых система сопоставила 28 конгрессменов США с лицами, отбывающими срок за различные преступления. Исследователи не раскрывают методологию тестов, но сообщают, что точность результатов достигала 80 процентов. Также ACLU отмечает, насколько дёшево ей обошлись эти тесты: исследователи потратили на них чуть более $12.

Помимо этого, правозащитная организация обвинила систему в расовой предвзятости, так как в результатах искусственного интеллекта небелокожие люди оказывались «преступниками» чаще. Сама Amazon заявила, что 80 процентов — приемлемый показатель для фотографий различных предметов и животных, но недостаточный для того, чтобы с точностью определить изображённого на фото человека.

Amazon начала предоставлять интеллектуальную систему Rekognition правоохранителям США в мае этого года, за что неоднократно подвергалась критике. Ранее стало известно, что система способна «усмотреть» вплоть до 100 различных людей в одном изображении, а данные она черпает из базы десятки миллионов лиц. Вскоре после этого некоторые полицейские управления вышли из программы, заявив об опасности технологии. // dev.by