В американском городе Детройт полицейские задержали для проверки мужчину по имени Роберт Джулиан-Борчак Уильямс. Программа алгоритмов на базе искусственного интеллекта в полицейском участке определила в нём преступника, совершившего кражу в магазине. Позже выяснилось, что система ошиблась, а мужчине пришлось провести за решёткой 30 часов.

фото se7en.ws

Правоохранителям всё-таки удалось разобраться в ситуации, но в случае с Уильямсом программное обеспечение для идентификации лиц стало единственным «доказательством» его вины и причиной ареста, пишет The New York Times.

При этом система распознавания лиц вместе с результатами проверки выдала следующее сообщение: «Этот документ не является положительным идентификатором. Он представляет собой только следственную версию и не является основанием для задержания».

Адвокат Клер Гарви, который прокомментировал случай с Уильямсом, считает, что такие случаи уже были, но просто о них так никто и не узнал.

Серьёзно подозреваю, что это не первый случай ошибки системы, в результате которой был арестован человек, не совершавший преступления. Скорее всего, это всего лишь первый случай, когда об этом стало известно общественности, — сказал Гарви.

Сначала Уильямсу для того чтобы выйти пришлось заплатить залог. Когда полицейские выяснили, что он не преступник, они даже принесли извинения. При этом издание отмечает, что после этого случая возник прецедент, указывающий на серьёзную проблему доверия к системам распознавания лиц и алгоритмам ИИ.