Amerykańska policja aresztowała czarnoskórych na podstawie technologii, która prawie zawsze się myli

Policja w Detroit wykorzystywała nierzetelną technologię rozpoznawania twarzy, która myliła się w każdym przypadku. Była przyczyną niesłusznych aresztowań, zwłaszcza osób czarnoskórych. Wiele miast zabroniło jej wykorzystywania przez służby.

Amerykańska policja aresztowała czarnoskórych na podstawie technologii, która prawie zawsze się myli
Źródło zdjęć: © Unsplash.com
3

Rozpoznawanie twarzy stosowane przez amerykańskie służby doprowadziło do niesłusznego aresztowania Roberta Juliana-Borchaka Williamsa. System stwierdził, że był obecny w nagraniu z kradzieży sklepu. Oprogramowanie błędnie wzięło go za podejrzanego, jednak nie ma w tym nic dziwnego.

System rozpoznawania twarzy prawie zawsze się myli

James Craig, szef policji w Detroit zdradził kilka interesujących informacji na temat wykorzystywanego przez tamtejsze służby oprogramowania do wykrywania twarzy. Technologia opracowana przez firmę DataWorks Plus w 96 proc. przypadków błędnie identyfikuje potencjalnego przestępcę.

Dyrektor naczelny DataWorks Plus, Todd Pastorini, zwraca uwagę na samo użycie systemu. Najlepiej sprawdza się do wyszukiwania większej grupy podejrzanych i nie nadaje się do bezpośredniego wskazywania sprawcy. Poza tym dokładność wyników zależy też od jakości próbek. Z tego względu firma nie zbiera statystyk na temat dokładności algorytmów w realnym zastosowaniu.

Policjanci z Detroit opierają się na wskazaniach systemu rozpoznawania twarzy decydując o tym, kto może mieć coś wspólnego z przestępstwem. Korzystają też z pomocy detektywów. Taki sposób pracy skutkuje tym, że przesłuchiwanych jest wiele osób niezwiązanych ze sprawą.

Obraz
© Unsplash.com

Problem dotyczy określonej grupy społecznej. Według oficjalnych danych w 68 na 70 do systemu wprowadzano zdjęcia osób czarnoskórych. Próbki pochodziły z serwisów społecznościowych lub kamer monitoringu.

Oprogramowanie do rozpoznawania twarzy wymagało regulacji

Jak informuje Vice, wiele amerykańskich miast zabroniło policji korzystania z systemu rozpoznawania twarzy. Detroit postanowiło jednak pójść inną ścieżką i zdecydowało się po prostu uregulować sprawę. Policja nie może wykorzystywać oprogramowania do inwigilacji, ograniczono też zastosowanie jej w protestach i sprecyzowano, że może być używane jedynie w ramach toczącego się postępowania.

Wspomniany na początku tekstu Robert Julian-Borchak Williams został aresztowany, zanim te zmiany zostały zastosowane. James Craig zaznaczył, że wideo analizowane przez system rozpoznawania twarzy było bardzo złej jakości i zgodnie z nową polityką nie zostałoby w ten sposób wykorzystane.

Systemy rozpoznawania twarzy wzbudzają wiele kontrowersji, zwłaszcza pod kątem prywatności. Dlatego Unia Europejska chce tymczasowo zakazać stosowania takiego oprogramowania w miejscach publicznych, by przeanalizować sprawę i określić zagrożenia.

Wybrane dla Ciebie

"Wyjątkowe, ale też ryzykowne". Ukraińcy o użyciu S-200
"Wyjątkowe, ale też ryzykowne". Ukraińcy o użyciu S-200
NASA ujawnia datę końca życia na Ziemi. Wyliczył to superkomputer
NASA ujawnia datę końca życia na Ziemi. Wyliczył to superkomputer
Rosja bez kluczowych zasobów. Ekspert mówi, że tak źle nie było
Rosja bez kluczowych zasobów. Ekspert mówi, że tak źle nie było
Odwrócili się od Ukrainy. Ich broń i tak trafia na front
Odwrócili się od Ukrainy. Ich broń i tak trafia na front
"Realna siła odstraszania". Wojsko pokazuje, co potrafią K2
"Realna siła odstraszania". Wojsko pokazuje, co potrafią K2
Agencja ONZ: Rosja winna śmierci 298 osób. Zestrzeliła pasażerski samolot
Agencja ONZ: Rosja winna śmierci 298 osób. Zestrzeliła pasażerski samolot
Kolejna dostawa dla wojska. Niebawem wejdą na uzbrojenie
Kolejna dostawa dla wojska. Niebawem wejdą na uzbrojenie
Zaskakująco cienka skorupa Wenus. Nowe odkrycia naukowców
Zaskakująco cienka skorupa Wenus. Nowe odkrycia naukowców
Rosja pręży muskuły. Ekspert mówi o uderzeniu Oriesznikiem
Rosja pręży muskuły. Ekspert mówi o uderzeniu Oriesznikiem
Fizycy dokonali niemożliwego. Udało im się zamienić ołów w złoto
Fizycy dokonali niemożliwego. Udało im się zamienić ołów w złoto
Nowa dostawa Su-35S. Rosja wyprodukowała więcej, niż straciła nad Ukrainą
Nowa dostawa Su-35S. Rosja wyprodukowała więcej, niż straciła nad Ukrainą
Polski zakład rozkręca produkcję amunicji. Jako jedyny produkuje pociski do Krabów
Polski zakład rozkręca produkcję amunicji. Jako jedyny produkuje pociski do Krabów