Система распознавания лиц Amazon не прошла проверку

Американский союз гражданских свобод — это некоммерческая правозащитная организация, и на этой неделе она, потратив всего $12,33, проверила систему, от которой вполне может зависеть жизнь и свобода многих людей.

Используя настройки Rekognition, выставленные по умолчанию, то есть порог уверенности в 80% (это значит, что система на 80% уверена в том, что права, когда дает сигнал о совпадении), Союз просканировал 25000 фотографий преступников, лежащих в открытом доступе, и сравнила их с фотографиями всех членов Конгресса. В результате система идентифицировала 28 конгрессменов как преступников.

Стоит заметить, что это может показаться лишь забавным фактом, но Amazon активно рекламирует свою систему для полицейских и охранных организаций и некоторые уже ей пользуются, так что цена такой ошибки может оказаться довольно дорогой для того, кого опознали неверно.

Представитель Amazon заявил, что в столь удручающих результатах скорее всего виновата недостаточная калибровка «80-процентная уверенность приемлема, когда дело касается фотографий хот-догов, стульев, животных или в социальных сетях, но она совершенно не подходит для идентификации людей». Также он заявил, что для любой идентификации, способной повлечь за собой серьезные последствия, нужна уверенность минимум в 95%.

Amazon не отказывается от идеи продавать систему правоохранительным органам, несмотря на петиции со стороны собственных акционеров и работников.