Boisz się komputerów decydujących o twoim życiu? To się dzieje od 15 lat
Algorytm ocenia twoją zdolność kredytową. Bez niej zapomnij o mieszkaniu. Algorytm decyduje o wysokości składki na samochód. Algorytm wskazuje też prawdopodobieństwo twojej winy podczas wypadku. Najgorsze, że nikt nie wie, jak działa.
Wyobraź sobie sytuację: spotkał cię wypadek samochodowy, ktoś zginął, doznał poważnego uszczerbku na zdrowiu. Albo po prostu nie zgadzasz się z policją i nie przyjmujesz mandatu. W każdej z tych sytuacji sprawa trafia do sądu, który orzeka o twojej winie. W jaki sposób to robi? Wzywa biegłego. A jak biegły ocenia sytuację, której nie widział? Nie ocenia. Robi to za niego algorytm. O tych problemach opowiadają Agata Kaźmierska i Wojciech Brzeziński w świeżo wydanej książce "Strefy Cyberwojny".
Wszystkowiedzący
Biegły wprowadza do algorytmu dane. To model i wiek samochodu, pojemność silnika, wiek i stan kierowcy, ilość pasażerów, sytuacja na drodze, warunki atmosferyczne i dziesiątki innych danych i wartości. Następnie algorytm myśli. Przepuszcza dane przez swój kod źródłowy napisany przez prywatną firmę i wypluwa wynik.
Wynik algorytmu nie jest oczywiście wyrokiem. Jest jedynie sugestią i wsparciem dla biegłego. Biegli jednak w większości wydają swoje opinie zgodnie z wynikami obliczeń algorytmów. Opinia biegłego też nadal nie jest wyrokiem. Jest tylko sugestią i wsparciem dla sądu. Sąd jednak zazwyczaj zgadza się z opinia biegłego. W końcu jest biegłym.
Algorytm nie osądza. Algorytm pomaga
Pod koniec okazuje się, że algorytm niemalże orzeka o winie. A problem z nim jest taki, że nie wiadomo, co tak naprawdę oblicza po podaniu mu danych. Prywatne firmy, które tworzą takie programy, zasłaniają się tajemnicą handlową i nie ujawniają kodów źródłowych algorytmów.
"Kiedy pytam biegłego na sali sądowej, jak taki program działa i jak prowadzi obliczenia, biegły zwykle odpowiada: 'Nie wiem, ale program jest dopuszczony przez Instytut Ekspertyz Sądowych im. prof. Sehna w Krakowie' lub, że wszyscy go używają, więc musi być dobry. Kiedy drążę, sąd zazwyczaj odpowiada: 'Panie mecenasie, proszę dać spokój, ten program działa'. Algorytm może być dobry, może być ułomny, ale nie wiadomo, jak działa, a ja chciałbym wiedzieć, jak przebiegają obliczenia, żebym móc ocenić prawidłowość wniosków biegłego."
Według mecenasa Adama Baworowskiego, programy wspierające biegłych w sprawach sądowych są używane w polskich sądach co najmniej od 15 lat.
Na Zachodzie jest "lepiej"
W polskich sądach algorytmy pojawiają się coraz częściej. Kolejnym jest ten, który przydziela sędziów do spraw - także nie wiadomo na jakiej zasadzie. Kod źródłowy jest niejawny. Nadal jednak użycie algorytmów nie jest u nas tak popularne jak na zachodzie Europy i w Stanach Zjednoczonych. Tam programy takiej jak PredPol czy COMPAS oceniają, czy obywatel popełni przestępstwo, zanim do niego jeszcze dojdzie.
- Te algorytmy są pełne uprzedzeń i nieścisłości - mówi Agata Kaźmierska, współautorka książki "Strefy Cyberwojny". - Bazując na danych o przypadkach wandalizmu czy palenia marihuany, wytyczają w mieście strefy podwyższonego ryzyka, które stają się celem wzmożonej działalności policji. Więcej funkcjonariuszy w jednym miejscu powoduje większą liczbę wykrytych incydentów, które znów trafiają do baz danych, a następnie do algorytmów, które tylko "utwierdzają" wcześniejsze wyniki. Powstaje sprzężenie zwrotne, które napędza wadliwą maszynę. W Polsce na razie policja nie korzysta z takich programów, ale nigdy nie wiadomo, kiedy ulegnie presji prywatnych firm, które je produkują i sama zacznie "przewidywać przestępstwa, zanim do nich dojdzie".
Książka "Strefy Cyberwojny" Agaty Kaźmierskiej i Wojciecha Brzezińskiego poświęcona jest zagrożeniom, jakie niosą algorytmy, sztuczna inteligencja, uzależnienie od sieci i zbieranie danych przez internetowych gigantów. Dostępna jest w księgarniach od 18 października.
