Amerykańska policja aresztowała czarnoskórych na podstawie technologii, która prawie zawsze się myli
Policja w Detroit wykorzystywała nierzetelną technologię rozpoznawania twarzy, która myliła się w każdym przypadku. Była przyczyną niesłusznych aresztowań, zwłaszcza osób czarnoskórych. Wiele miast zabroniło jej wykorzystywania przez służby.
02.07.2020 21:51
Rozpoznawanie twarzy stosowane przez amerykańskie służby doprowadziło do niesłusznego aresztowania Roberta Juliana-Borchaka Williamsa. System stwierdził, że był obecny w nagraniu z kradzieży sklepu. Oprogramowanie błędnie wzięło go za podejrzanego, jednak nie ma w tym nic dziwnego.
System rozpoznawania twarzy prawie zawsze się myli
James Craig, szef policji w Detroit zdradził kilka interesujących informacji na temat wykorzystywanego przez tamtejsze służby oprogramowania do wykrywania twarzy. Technologia opracowana przez firmę DataWorks Plus w 96 proc. przypadków błędnie identyfikuje potencjalnego przestępcę.
Dyrektor naczelny DataWorks Plus, Todd Pastorini, zwraca uwagę na samo użycie systemu. Najlepiej sprawdza się do wyszukiwania większej grupy podejrzanych i nie nadaje się do bezpośredniego wskazywania sprawcy. Poza tym dokładność wyników zależy też od jakości próbek. Z tego względu firma nie zbiera statystyk na temat dokładności algorytmów w realnym zastosowaniu.
Policjanci z Detroit opierają się na wskazaniach systemu rozpoznawania twarzy decydując o tym, kto może mieć coś wspólnego z przestępstwem. Korzystają też z pomocy detektywów. Taki sposób pracy skutkuje tym, że przesłuchiwanych jest wiele osób niezwiązanych ze sprawą.
Problem dotyczy określonej grupy społecznej. Według oficjalnych danych w 68 na 70 do systemu wprowadzano zdjęcia osób czarnoskórych. Próbki pochodziły z serwisów społecznościowych lub kamer monitoringu.
Oprogramowanie do rozpoznawania twarzy wymagało regulacji
Jak informuje Vice, wiele amerykańskich miast zabroniło policji korzystania z systemu rozpoznawania twarzy. Detroit postanowiło jednak pójść inną ścieżką i zdecydowało się po prostu uregulować sprawę. Policja nie może wykorzystywać oprogramowania do inwigilacji, ograniczono też zastosowanie jej w protestach i sprecyzowano, że może być używane jedynie w ramach toczącego się postępowania.
Wspomniany na początku tekstu Robert Julian-Borchak Williams został aresztowany, zanim te zmiany zostały zastosowane. James Craig zaznaczył, że wideo analizowane przez system rozpoznawania twarzy było bardzo złej jakości i zgodnie z nową polityką nie zostałoby w ten sposób wykorzystane.
Systemy rozpoznawania twarzy wzbudzają wiele kontrowersji, zwłaszcza pod kątem prywatności. Dlatego Unia Europejska chce tymczasowo zakazać stosowania takiego oprogramowania w miejscach publicznych, by przeanalizować sprawę i określić zagrożenia.
