Rozpoznawanie twarzy w sklepie Apple doprowadziło do niesłusznego aresztowania

Nastolatek z Nowego Jorku stara się ocalić twarz po tym, jak został niesłusznie aresztowany. Winny jest system rozpoznawania twarzy w Apple Store, który pomylił go ze złodziejem.

Domyślny opis zdjęcia na stronę główną
Źródło zdjęć: © Wikimedia Commons CC BY | Wikipedia

18-letni Ousmane Bah twierdzi, że ktoś użył skradzionego dokumentu tożsamości, gdy został złapany na gorącym uczynku. Złodziej próbował ukraść sprzęt Apple o wartości 1,2 tys. dolarów ze sklepu w Bostonie, ale został złapany na gorącym uczynku 31 maja 2018 roku.

Ochrona ufa fałszywym dokumentom

Sprawa tamtego złodzieja była prowadzona w Sądzie Federalnym Manhattanu, tam też znajdują się wszystkie dokumenty. Stąd wiadomo, że zapisane zostały dane osobowe, ale w kartotece nie ma zdjęcia złodzieja. Prawdopodobnie ochrona sklepu uwierzyła mu na słowo, gdy podawał fałszywe dane osobowe.

System rozpoznawania twarzy w sklepach Apple został zaprogramowany tak, by rozpoznawał twarz złodzieja jako Baha. Od tamtej pory złodziej okradał także sklepy w New Jersey, Delaware i na Manhattanie, a wina spadła na Ousmane Baha. Złodziej był rozpoznawany jako niewinny 18-latek.

Duch Orwella w Apple Store

Bah dowiedział się o pomyłce, gdy dostał wezwanie do Sądu Miejskiego w Bostonie w czerwcu 2018 roku. Nowojorska policja aresztowała go 29 listopada. Na szczęście śledczy obejrzeli zapisy z monitoringu w sklepach Apple'a. Prawdziwy złodziej w ogóle nie był podobny do Baha. Dzięki temu oskarżenia zostały oddalone. Z jednym wyjątkiem – New Jersey wciąż jest aktualne.

System rozpoznawania twarzy w sklepach może i przywodzi na myśl świat Orwella, ale nie można powiedzieć, że zadziałał nieprawidłowo. Problem pojawił się gdzieś indziej – programujący go nie zweryfikowali podawanych programowi informacji. Z błędnych danych program nie wyciągnie prawdziwych ostrzeżeń. Jego zadaniem jest rozpoznawanie twarzy i porównywanie z tożsamością osób w bazie, a ta jest uzupełniana przez ludzi. SI może nawet pomylić osobę z plakatem.

Jest jeszcze jeden problem. Obecnie w zasadzie nie mamy jak sprawdzić, czy przebywamy w miejscach, w których działają takie systemy. Możemy liczyć na informacje, że teren jest monitorowany. Ostrzeżenia o rozpoznawaniu twarzy nie zostały jeszcze wprowadzone. Tymczasem Japonia już testuje rozpoznawanie twarzy, które pozna złodzieja jeszcze przed kradzieżą.

Niesłusznie oskarżony 18-latek pozwał firmę Apple. Domaga się miliarda dolarów odszkodowania za zrujnowanie reputacji. Apple na razie nie komentuje zajścia.

Trefna broń kraju NATO. Rani własnych żołnierzy
Trefna broń kraju NATO. Rani własnych żołnierzy
Tak omijają sankcje. Kupują tony rosyjskiej broni
Tak omijają sankcje. Kupują tony rosyjskiej broni
Zachodnie technologie w rękach Rosjan? Media: to wina Francji
Zachodnie technologie w rękach Rosjan? Media: to wina Francji
Bohater mema zebrał już tysiące dolarów. Fortuna trafi na szczytny cel
Bohater mema zebrał już tysiące dolarów. Fortuna trafi na szczytny cel
Dwa wypadki lotnicze w ciągu 30 minut. Czarna seria Amerykanów
Dwa wypadki lotnicze w ciągu 30 minut. Czarna seria Amerykanów
Fascynujące odkrycie za Saturnem. Chiron też będzie miał pierścienie
Fascynujące odkrycie za Saturnem. Chiron też będzie miał pierścienie
Zestrzelony w Ukrainie. Rosjanie stracili cenną maszynę z załogą
Zestrzelony w Ukrainie. Rosjanie stracili cenną maszynę z załogą
Chiński satelita sfotografowany z orbity. Wkrótce potem zakończył misję
Chiński satelita sfotografowany z orbity. Wkrótce potem zakończył misję
W Indiach zasiano chmury, by pozbyć się smogu. Deszcz ma spaść wkrótce
W Indiach zasiano chmury, by pozbyć się smogu. Deszcz ma spaść wkrótce
Gigantyczny krater odkryty w Chinach. To było potężne uderzenie
Gigantyczny krater odkryty w Chinach. To było potężne uderzenie
"Cenniejsze niż złoto". MON robi duży krok, by je pozyskać
"Cenniejsze niż złoto". MON robi duży krok, by je pozyskać
Unikalny układ planetarny. Takiego jeszcze nie widzieliśmy
Unikalny układ planetarny. Takiego jeszcze nie widzieliśmy