Rozpoznawanie twarzy w sklepie Apple doprowadziło do niesłusznego aresztowania

Nastolatek z Nowego Jorku stara się ocalić twarz po tym, jak został niesłusznie aresztowany. Winny jest system rozpoznawania twarzy w Apple Store, który pomylił go ze złodziejem.

18-letni Ousmane Bah twierdzi, że ktoś użył skradzionego dokumentu tożsamości, gdy został złapany na gorącym uczynku. Złodziej próbował ukraść sprzęt Apple o wartości 1,2 tys. dolarów ze sklepu w Bostonie, ale został złapany na gorącym uczynku 31 maja 2018 roku.

Sprawa tamtego złodzieja była prowadzona w Sądzie Federalnym Manhattanu, tam też znajdują się wszystkie dokumenty. Stąd wiadomo, że zapisane zostały dane osobowe, ale w kartotece nie ma zdjęcia złodzieja. Prawdopodobnie ochrona sklepu uwierzyła mu na słowo, gdy podawał fałszywe dane osobowe.

System rozpoznawania twarzy w sklepach Apple został zaprogramowany tak, by rozpoznawał twarz złodzieja jako Baha. Od tamtej pory złodziej okradał także sklepy w New Jersey, Delaware i na Manhattanie, a wina spadła na Ousmane Baha. Złodziej był rozpoznawany jako niewinny 18-latek.

Bah dowiedział się o pomyłce, gdy dostał wezwanie do Sądu Miejskiego w Bostonie w czerwcu 2018 roku. Nowojorska policja aresztowała go 29 listopada. Na szczęście śledczy obejrzeli zapisy z monitoringu w sklepach Apple'a. Prawdziwy złodziej w ogóle nie był podobny do Baha. Dzięki temu oskarżenia zostały oddalone. Z jednym wyjątkiem – New Jersey wciąż jest aktualne.

System rozpoznawania twarzy w sklepach może i przywodzi na myśl świat Orwella, ale nie można powiedzieć, że zadziałał nieprawidłowo. Problem pojawił się gdzieś indziej – programujący go nie zweryfikowali podawanych programowi informacji. Z błędnych danych program nie wyciągnie prawdziwych ostrzeżeń. Jego zadaniem jest rozpoznawanie twarzy i porównywanie z tożsamością osób w bazie, a ta jest uzupełniana przez ludzi. SI może nawet pomylić osobę z plakatem.

Jest jeszcze jeden problem. Obecnie w zasadzie nie mamy jak sprawdzić, czy przebywamy w miejscach, w których działają takie systemy. Możemy liczyć na informacje, że teren jest monitorowany. Ostrzeżenia o rozpoznawaniu twarzy nie zostały jeszcze wprowadzone. Tymczasem Japonia już testuje rozpoznawanie twarzy, które pozna złodzieja jeszcze przed kradzieżą.

Niesłusznie oskarżony 18-latek pozwał firmę Apple. Domaga się miliarda dolarów odszkodowania za zrujnowanie reputacji. Apple na razie nie komentuje zajścia.