WAŻNE
TERAZ

To w ich dom uderzyły szczątki drona. "Przez okno patrzę: leci dach"

Boisz się komputerów decydujących o twoim życiu? To się dzieje od 15 lat

Algorytm ocenia twoją zdolność kredytową. Bez niej zapomnij o mieszkaniu. Algorytm decyduje o wysokości składki na samochód. Algorytm wskazuje też prawdopodobieństwo twojej winy podczas wypadku. Najgorsze, że nikt nie wie, jak działa.

W sądach toczą się już tysiące spraw frankowiczów przeciwko bankom
Źródło zdjęć: © PAP | Grzegorz Michałowski
Bolesław Breczko

Wyobraź sobie sytuację: spotkał cię wypadek samochodowy, ktoś zginął, doznał poważnego uszczerbku na zdrowiu. Albo po prostu nie zgadzasz się z policją i nie przyjmujesz mandatu. W każdej z tych sytuacji sprawa trafia do sądu, który orzeka o twojej winie. W jaki sposób to robi? Wzywa biegłego. A jak biegły ocenia sytuację, której nie widział? Nie ocenia. Robi to za niego algorytm. O tych problemach opowiadają Agata Kaźmierska i Wojciech Brzeziński w świeżo wydanej książce "Strefy Cyberwojny".

Wszystkowiedzący

Biegły wprowadza do algorytmu dane. To model i wiek samochodu, pojemność silnika, wiek i stan kierowcy, ilość pasażerów, sytuacja na drodze, warunki atmosferyczne i dziesiątki innych danych i wartości. Następnie algorytm myśli. Przepuszcza dane przez swój kod źródłowy napisany przez prywatną firmę i wypluwa wynik.

Wynik algorytmu nie jest oczywiście wyrokiem. Jest jedynie sugestią i wsparciem dla biegłego. Biegli jednak w większości wydają swoje opinie zgodnie z wynikami obliczeń algorytmów. Opinia biegłego też nadal nie jest wyrokiem. Jest tylko sugestią i wsparciem dla sądu. Sąd jednak zazwyczaj zgadza się z opinia biegłego. W końcu jest biegłym.

Algorytm nie osądza. Algorytm pomaga

Pod koniec okazuje się, że algorytm niemalże orzeka o winie. A problem z nim jest taki, że nie wiadomo, co tak naprawdę oblicza po podaniu mu danych. Prywatne firmy, które tworzą takie programy, zasłaniają się tajemnicą handlową i nie ujawniają kodów źródłowych algorytmów.

"Kiedy pytam biegłego na sali sądowej, jak taki program działa i jak prowadzi obliczenia, biegły zwykle odpowiada: 'Nie wiem, ale program jest dopuszczony przez Instytut Ekspertyz Sądowych im. prof. Sehna w Krakowie' lub, że wszyscy go używają, więc musi być dobry. Kiedy drążę, sąd zazwyczaj odpowiada: 'Panie mecenasie, proszę dać spokój, ten program działa'. Algorytm może być dobry, może być ułomny, ale nie wiadomo, jak działa, a ja chciałbym wiedzieć, jak przebiegają obliczenia, żebym móc ocenić prawidłowość wniosków biegłego."
Mec. Adam Baworowski z książki "Strefy Cyberwojny" Agaty Kaźmierskiej i Wojtka Brzezińskiego

Według mecenasa Adama Baworowskiego, programy wspierające biegłych w sprawach sądowych są używane w polskich sądach co najmniej od 15 lat.

Na Zachodzie jest "lepiej"

W polskich sądach algorytmy pojawiają się coraz częściej. Kolejnym jest ten, który przydziela sędziów do spraw - także nie wiadomo na jakiej zasadzie. Kod źródłowy jest niejawny. Nadal jednak użycie algorytmów nie jest u nas tak popularne jak na zachodzie Europy i w Stanach Zjednoczonych. Tam programy takiej jak PredPol czy COMPAS oceniają, czy obywatel popełni przestępstwo, zanim do niego jeszcze dojdzie.

- Te algorytmy są pełne uprzedzeń i nieścisłości - mówi Agata Kaźmierska, współautorka książki "Strefy Cyberwojny". - Bazując na danych o przypadkach wandalizmu czy palenia marihuany, wytyczają w mieście strefy podwyższonego ryzyka, które stają się celem wzmożonej działalności policji. Więcej funkcjonariuszy w jednym miejscu powoduje większą liczbę wykrytych incydentów, które znów trafiają do baz danych, a następnie do algorytmów, które tylko "utwierdzają" wcześniejsze wyniki. Powstaje sprzężenie zwrotne, które napędza wadliwą maszynę. W Polsce na razie policja nie korzysta z takich programów, ale nigdy nie wiadomo, kiedy ulegnie presji prywatnych firm, które je produkują i sama zacznie "przewidywać przestępstwa, zanim do nich dojdzie".

Książka "Strefy Cyberwojny" Agaty Kaźmierskiej i Wojciecha Brzezińskiego poświęcona jest zagrożeniom, jakie niosą algorytmy, sztuczna inteligencja, uzależnienie od sieci i zbieranie danych przez internetowych gigantów. Dostępna jest w księgarniach od 18 października.

Obraz
© Oficyna 4em

Wybrane dla Ciebie

Aerostaty Barbara dla Polski. Incydent z dronami pokazał, jak bardzo są potrzebne
Aerostaty Barbara dla Polski. Incydent z dronami pokazał, jak bardzo są potrzebne
Pojawiły się nad Polską. To gigantyczne maszyny z USA
Pojawiły się nad Polską. To gigantyczne maszyny z USA
Tym zwalczano rosyjskie drony. Jest oficjalne potwierdzenie
Tym zwalczano rosyjskie drony. Jest oficjalne potwierdzenie
Odkryli skarby z bitwy morskiej. Hełm Montefortino u wybrzeży Sycylii
Odkryli skarby z bitwy morskiej. Hełm Montefortino u wybrzeży Sycylii
Rosyjskie drony nad Polską. Tym były zwalczane
Rosyjskie drony nad Polską. Tym były zwalczane
Potrzebują modernizacji. Ukrainiec o tamtejszej obronie powietrznej
Potrzebują modernizacji. Ukrainiec o tamtejszej obronie powietrznej
Rosyjskie drony. W lipcu znaleziono w nich polskie karty SIM
Rosyjskie drony. W lipcu znaleziono w nich polskie karty SIM
Postrzeganie kolorów. Tak odbierają je ludzkie mózgi
Postrzeganie kolorów. Tak odbierają je ludzkie mózgi
Polska technologia poleci na Księżyc. Wcześniej testowano ją na ISS
Polska technologia poleci na Księżyc. Wcześniej testowano ją na ISS
Polska zestrzeliła rosyjskie drony. Rosjanie oskarżają Ukrainę
Polska zestrzeliła rosyjskie drony. Rosjanie oskarżają Ukrainę
Marsjański "żółw". NASA pokazała niezwykłe zdjęcie
Marsjański "żółw". NASA pokazała niezwykłe zdjęcie
Wcześniej mieli z nimi problemy. Teraz kupują 50 samolotów Bajkał
Wcześniej mieli z nimi problemy. Teraz kupują 50 samolotów Bajkał