Система распознавания лиц Amazon перепутала с преступниками 28 конгрессменов США
30.07.2018 19:55
—
Разное
В рамках сотрудничества с отдельными полицейскими управлениями США Amazon предоставляет им систему распознавания лиц «Rekognition». В ходе одного из тестов Американского союза защиты гражданских свобод (ACLU), ИИ-система рассмотрела в фотографиях 28 законодателей лица преступников, пишет TechSpot.
Некоммерческая организация ACLU провела испытания искусственного интеллекта Amazon, в ходе которых система сопоставила 28 конгрессменов США с лицами, отбывающими срок за различные преступления. Исследователи не раскрывают методологию тестов, но сообщают, что точность результатов достигала 80 процентов.
Помимо этого, правозащитная организация обвинила систему в расовой предвзятости, так как в результатах искусственного интеллекта небелокожие люди оказывались «преступниками» чаще. Сама Amazon заявила, что 80 процентов — приемлемый показатель для фотографий различных предметов и животных, но недостаточный для того, чтобы с точностью определить изображённого на фото человека.
Amazon начала предоставлять интеллектуальную систему Rekognition правоохранителям США в мае этого года, за что неоднократно подвергалась критике. Ранее стало известно, что система способна «усмотреть» вплоть до 100 различных людей в одном изображении, а данные она черпает из базы с десятками миллионов лиц. Вскоре после этого некоторые полицейские управления вышли из программы, заявив об опасности технологии.