Amerykańska policja aresztowała czarnoskórych na podstawie technologii, która prawie zawsze się myli

Policja w Detroit wykorzystywała nierzetelną technologię rozpoznawania twarzy, która myliła się w każdym przypadku. Była przyczyną niesłusznych aresztowań, zwłaszcza osób czarnoskórych. Wiele miast zabroniło jej wykorzystywania przez służby.

Obraz
Źródło zdjęć: © Unsplash.com

Rozpoznawanie twarzy stosowane przez amerykańskie służby doprowadziło do niesłusznego aresztowania Roberta Juliana-Borchaka Williamsa. System stwierdził, że był obecny w nagraniu z kradzieży sklepu. Oprogramowanie błędnie wzięło go za podejrzanego, jednak nie ma w tym nic dziwnego.

System rozpoznawania twarzy prawie zawsze się myli

James Craig, szef policji w Detroit zdradził kilka interesujących informacji na temat wykorzystywanego przez tamtejsze służby oprogramowania do wykrywania twarzy. Technologia opracowana przez firmę DataWorks Plus w 96 proc. przypadków błędnie identyfikuje potencjalnego przestępcę.

Dyrektor naczelny DataWorks Plus, Todd Pastorini, zwraca uwagę na samo użycie systemu. Najlepiej sprawdza się do wyszukiwania większej grupy podejrzanych i nie nadaje się do bezpośredniego wskazywania sprawcy. Poza tym dokładność wyników zależy też od jakości próbek. Z tego względu firma nie zbiera statystyk na temat dokładności algorytmów w realnym zastosowaniu.

Policjanci z Detroit opierają się na wskazaniach systemu rozpoznawania twarzy decydując o tym, kto może mieć coś wspólnego z przestępstwem. Korzystają też z pomocy detektywów. Taki sposób pracy skutkuje tym, że przesłuchiwanych jest wiele osób niezwiązanych ze sprawą.

Obraz
© Unsplash.com

Problem dotyczy określonej grupy społecznej. Według oficjalnych danych w 68 na 70 do systemu wprowadzano zdjęcia osób czarnoskórych. Próbki pochodziły z serwisów społecznościowych lub kamer monitoringu.

Oprogramowanie do rozpoznawania twarzy wymagało regulacji

Jak informuje Vice, wiele amerykańskich miast zabroniło policji korzystania z systemu rozpoznawania twarzy. Detroit postanowiło jednak pójść inną ścieżką i zdecydowało się po prostu uregulować sprawę. Policja nie może wykorzystywać oprogramowania do inwigilacji, ograniczono też zastosowanie jej w protestach i sprecyzowano, że może być używane jedynie w ramach toczącego się postępowania.

Wspomniany na początku tekstu Robert Julian-Borchak Williams został aresztowany, zanim te zmiany zostały zastosowane. James Craig zaznaczył, że wideo analizowane przez system rozpoznawania twarzy było bardzo złej jakości i zgodnie z nową polityką nie zostałoby w ten sposób wykorzystane.

Systemy rozpoznawania twarzy wzbudzają wiele kontrowersji, zwłaszcza pod kątem prywatności. Dlatego Unia Europejska chce tymczasowo zakazać stosowania takiego oprogramowania w miejscach publicznych, by przeanalizować sprawę i określić zagrożenia.

Wybrane dla Ciebie

Chiny testują tajemniczą rakietę. Ma nietypową trajektorię
Chiny testują tajemniczą rakietę. Ma nietypową trajektorię
Służy Polsce od 6 lat. Jest do naprawy
Służy Polsce od 6 lat. Jest do naprawy
Co oznacza litera "H" w imieniu Jezusa? Nie każdy o tym wie
Co oznacza litera "H" w imieniu Jezusa? Nie każdy o tym wie
Polska wstrzymuje zakup rakiet. Zabrakło na nie pieniędzy?
Polska wstrzymuje zakup rakiet. Zabrakło na nie pieniędzy?
60-letnia zagadka może mieć rozwiązanie. Wszystko przez czarne dziury
60-letnia zagadka może mieć rozwiązanie. Wszystko przez czarne dziury
Zbłąkana planeta. Zorze podgrzewają jej atmosferę
Zbłąkana planeta. Zorze podgrzewają jej atmosferę
Wiedziałeś, że dinozaury wciąż istnieją? Nawet robimy z nich rosół
Wiedziałeś, że dinozaury wciąż istnieją? Nawet robimy z nich rosół
Rozważają przekazanie Tomahawków Ukrainie. Jest reakcja Kremla
Rozważają przekazanie Tomahawków Ukrainie. Jest reakcja Kremla
Rosyjski okręt na Morzu Śródziemnym. Doznał bardzo poważnej awarii
Rosyjski okręt na Morzu Śródziemnym. Doznał bardzo poważnej awarii
Wysycha w rekordowym tempie. Będzie mieć opłakane skutki dla świata
Wysycha w rekordowym tempie. Będzie mieć opłakane skutki dla świata
Bezsenność i demencja. Brak snu przyspiesza zmiany w mózgu
Bezsenność i demencja. Brak snu przyspiesza zmiany w mózgu
Newa SC na straży polskiego nieba. Wojsko pokazało zdjęcia
Newa SC na straży polskiego nieba. Wojsko pokazało zdjęcia