Ложный арест по ошибке ИИ: житель США подал в суд из-за сбоя системы распознавания лиц

В США разгорается новый скандал вокруг несовершенства современных биометрических технологий — очередная критическая ошибка системы распознавания лиц привела к задержанию невиновного гражданина. Житель Флориды Роберт Диллон подал судебный иск против местных правоохранителей, которые без тщательного разбирательства провели его арест по ложному обвинению в попытке похищения несовершеннолетнего ребенка.

FACES подставил невиновного

Резонансный инцидент произошел еще в ноябре 2023 года, когда неизвестный мужчина в ресторане McDonald’s города Джексонвилл-Бич предпринял попытку похитить ребенка возрастом до 12 лет. В рамках ведения дела сотрудники правоохранительных органов воспользовались региональной системой анализа лиц FACES (Face Analysis Comparison and Examination System). База данных указала на схожесть внешних черт Роберта Диллона с портретом подозреваемого на 93%.

При этом детектив, занимавшийся анализом фотоматериалов, совершил грубую техническую ошибку. Вместо оригинальных качественных кадров с камеры видеонаблюдения он загрузил в программу снимок экрана монитора, транслировавшего видеозапись инцидента. Из-за этого процент совпадения не имел весомой надежности.

Очевидные алиби, которые полностью проигнорировала полиция

Роберт Диллон уверяет, что у следствия не было абсолютно никаких доказательств его причастности к преступлению, помимо результатов ПО FACES. Правоохранители пренебрегли рядом других важнейших вещдоков:

• Мужчина фактически проживает более чем в 480 километрах от ресторана в Джексонвилл-Бич и никогда там не был.
• Электронные считыватели дорожных камер зафиксировали, что транспортного средства обвиняемого в этом округе в день попытки похищения не проезжало.

Эти факты не отобразили в запросе, который позже послужил основанием для выдачи ордера. Диллона взяли под стражу около дома в октябре 2024 года, он провел за решеткой ночь и залез в крупные долги ради обеспечения залога.

Не первый случай

По делу Диллона обвинения со стороны прокуроров были сняты спустя 2 месяца из-за недостатка доказательств и сомнительности работы технологии. Интересы мужчины защищает Американский союз гражданских свобод (ACLU), эксперты которого утверждают, что этот арест стал как минимум 15-м известным им прецедентом в США, в котором именно компьютерный алгоритм ложно идентифицировал личность гражданина, нарушив его конституционные права.

Как объясняют независимые эксперты, указанные 93% схожести — внутренний индикатор программы для группировки сопоставлений лица в массив, который операторы ведомств некорректно переводят в юридические доказательства. Жертва рассчитывает получить справедливую материальную компенсацию за неправомерное удержание, а также добиться реформы правил работы полиции с ИИ.