Trwa ładowanie...
d2vda7m

Amerykańska policja aresztowała czarnoskórych na podstawie technologii, która prawie zawsze się myli

Policja w Detroit wykorzystywała nierzetelną technologię rozpoznawania twarzy, która myliła się w każdym przypadku. Była przyczyną niesłusznych aresztowań, zwłaszcza osób czarnoskórych. Wiele miast zabroniło jej wykorzystywania przez służby.
Głosuj
Głosuj
Podziel się
Opinie
Amerykańska policja aresztowała czarnoskórych na podstawie technologii, która prawie zawsze się myli
(Unsplash.com)
d2vda7m

Rozpoznawanie twarzy stosowane przez amerykańskie służby doprowadziło do niesłusznego aresztowania Roberta Juliana-Borchaka Williamsa. System stwierdził, że był obecny w nagraniu z kradzieży sklepu. Oprogramowanie błędnie wzięło go za podejrzanego, jednak nie ma w tym nic dziwnego.

System rozpoznawania twarzy prawie zawsze się myli

James Craig, szef policji w Detroit zdradził kilka interesujących informacji na temat wykorzystywanego przez tamtejsze służby oprogramowania do wykrywania twarzy. Technologia opracowana przez firmę DataWorks Plus w 96 proc. przypadków błędnie identyfikuje potencjalnego przestępcę.

d2vda7m

Dyrektor naczelny DataWorks Plus, Todd Pastorini, zwraca uwagę na samo użycie systemu. Najlepiej sprawdza się do wyszukiwania większej grupy podejrzanych i nie nadaje się do bezpośredniego wskazywania sprawcy. Poza tym dokładność wyników zależy też od jakości próbek. Z tego względu firma nie zbiera statystyk na temat dokładności algorytmów w realnym zastosowaniu.

Policjanci z Detroit opierają się na wskazaniach systemu rozpoznawania twarzy decydując o tym, kto może mieć coś wspólnego z przestępstwem. Korzystają też z pomocy detektywów. Taki sposób pracy skutkuje tym, że przesłuchiwanych jest wiele osób niezwiązanych ze sprawą.

Unsplash.com

Problem dotyczy określonej grupy społecznej. Według oficjalnych danych w 68 na 70 do systemu wprowadzano zdjęcia osób czarnoskórych. Próbki pochodziły z serwisów społecznościowych lub kamer monitoringu.

d2vda7m

Oprogramowanie do rozpoznawania twarzy wymagało regulacji

Jak informuje Vice, wiele amerykańskich miast zabroniło policji korzystania z systemu rozpoznawania twarzy. Detroit postanowiło jednak pójść inną ścieżką i zdecydowało się po prostu uregulować sprawę. Policja nie może wykorzystywać oprogramowania do inwigilacji, ograniczono też zastosowanie jej w protestach i sprecyzowano, że może być używane jedynie w ramach toczącego się postępowania.

Wspomniany na początku tekstu Robert Julian-Borchak Williams został aresztowany, zanim te zmiany zostały zastosowane. James Craig zaznaczył, że wideo analizowane przez system rozpoznawania twarzy było bardzo złej jakości i zgodnie z nową polityką nie zostałoby w ten sposób wykorzystane.

Systemy rozpoznawania twarzy wzbudzają wiele kontrowersji, zwłaszcza pod kątem prywatności. Dlatego Unia Europejska chce tymczasowo zakazać stosowania takiego oprogramowania w miejscach publicznych, by przeanalizować sprawę i określić zagrożenia.

d2vda7m

Podziel się opinią

Share

d2vda7m

d2vda7m
Więcej tematów