Maszyny przejmą kontrolę nad ludzkością. Zrobią to jednak bardzo subtelnie

"Tak się zaczyna zagłada ludzkości!", "Tak będzie wyglądał bunt maszyn!". Takie komentarze pojawiają się przy każdej okazji, gdy Boston Dynamics pokazuje nowe wideo ze swoimi robotami. Jak większość komentarzy w internecie, tak i te nie mają nic wspólnego z rzeczywistością.

Bunt maszyn rodem z "Terminatora" czy "Matriksa" z morderczymi robotami raczej nam nie grozi. Grozi nam za to zdecydowanie subtelniejsze zniewolenie przez maszyny i sztuczną inteligencję. To zresztą już się powoli zaczyna, a my zatwierdzamy ten stan rzeczy, instalując kolejne aplikacje i akceptując ich regulaminy.

Światy science-fiction są pełne wizji, w których maszyny przejmują kontrolę nad ludźmi. W "Matriksie" po wyniszczającej wojnie ze sztuczną inteligencją, ludzie są "uprawiani" przez maszyny. Ciepło, które produkuje ludzkie ciało, jest wykorzystywane przez maszyny do zasilania ich akumulatorów. W "Odysei kosmicznej 2001" sztuczna inteligencja HAL 9000 postanawia zabić podróżujących na pokładzie statku kosmicznego astronautów. HAL dochodzi do wniosku, że są oni zagrożeniem dla jego misji. Z kolei w "Terminatorze" wojskowy program Skynet uzyskuje samoświadomość i dąży do całkowitego unicestwienia ludzkości.

Co łączy te fikcyjne byty z robotami Boston Dynamics? Dlaczego ludzie zaczynają widzieć w nich (nawet jeśli tylko w żartach) zagrożenie dla ludzkości? Jest to przejmowanie ludzkich cech przez maszyny. W przypadku filmowych tworów jest to samoświadomość. Natomiast w przypadku robotów Boston Dynamics jest to zdolność do "organicznego" poruszania się, adaptacji do zmieniających się warunków oraz umiejętności radzenia sobie z przeciwnościami. W sumie nic dziwnego, że z niepewnością patrzymy na to, jak inne byty zdobywają ludzkie cechy. Gdy popatrzymy na naszą zdolność do unicestwiania samych siebie, innych stworzeń oraz planety, na której żyjemy, to świadomość tego, że ktoś inny, o dużo większych możliwościach mógłby zacząć myśleć tak jak my, jest rzeczywiście przerażająca.

Jednak czy maszyny będą w stanie kiedykolwiek podejmować autonomiczne decyzje? Właśnie ta możliwość przypisywana jest często "prawdziwej" sztucznej inteligencji. Jeśli przyjąć ten właśnie wymóg, to sztuczna inteligencja już istnieje. Algorytmy giełdowe codziennie kupują i sprzedają akcje spółek, bazując na wahaniach ich kursów. Inne maszyny codziennie podejmują decyzje, co pokazać nam w wynikach Google'a i na Facebooku czy jakie zakupy nam zaproponować. Najnowszy iPhone X ze skanerem twarzy może zdecydować, że nie odblokuje nam telefonu, mimo że to przecież naszą twarz skanujemy.

Oczywiście można powiedzieć, że wymienione przeze mnie przykłady to tylko taka fasadowa sztuczna inteligencja. Nie podejmuje bowiem spontanicznych decyzji, ale bazuje na danych i wytycznych, które sami jej wprowadzamy. Nawet jeśli odmawia nam dostępu (jak w iPhonie), to nie dlatego, że tak zdecydowała, tylko dlatego, że nie poznała naszej twarzy. Bo jesteśmy, na przykład, opuchnięci po nocy. Wszelkie niepożądane przez nas decyzje można wytłumaczyć błędami programu lub niewłaściwą interpretacją, a nie chęcią zaszkodzenia ludzkości.

I właśnie w taki sposób, bez laserów, morderczych robotów i sztucznych inteligencji, które wymknęły się spod kontroli, oddajemy się pod kontrolę maszyn. Dodatkowo, przez cały czas wydaje się nam, że to my je kontrolujemy, a nie odwrotnie. Ale już niedługo. Niebawem taki fikcyjny scenariusz, jak ten poniżej będzie całkowicie możliwy:

Rok 2020. Najnowsza wersja wirtualnego asystenta pozwala mi ustawić dokładnie moje personalne cele. Wpisałem sobie na początek trzy: zarabiać więcej, poprawić kondycję i sylwetkę, znaleźć dziewczynę. Asystent ma dostęp do praktycznie nieograniczonych zasobów. Korzysta z pełnej wiedzy ludzkości, ma dostęp do najnowszych osiągnięć nauki. Może zaplanować zarówno mój rozwój zawodowy, trening i dobrać potencjalną partnerkę na podstawie naszych oczekiwań i zainteresowań. Jestem podekscytowany jego możliwościami.

Środa, godzina 18.00. Zbieram się do wyjścia z pracy. Asystent wykrył, że wyłączyłem komputer. Przypomina mi:

- Nie wszystkie z twoich dzisiejszych zadań zostały wykonane. Twój potencjalny awans zależy od oceny przez wewnętrzne algorytmy firmy oraz przełożonych. Wyższa wydajność jest zawsze lepiej punktowana.
- Nie obchodzi mnie to, jadę do domu - mówię. - Dokończę jutro rano.
- Czy w związku z tym przestawić godzinę budzenia z 6.00 na 5.00? - pyta Asystent.
- Nie.

Zostaję w pracy godzinę dłużej kończąc zadania. Przed wyjściem dzwoni szef z awanturą. Rozmowa nie zakończyła się pokojowo, schodzę do garażu po auto cały rozdygotany. Ale mój samochód nie chce otworzyć drzwi.

- Czemu drzwi się nie otwierają? – pytam Asystenta.
- Masz podwyższone tętno, jesteś zdenerwowany i zmęczony. Nie mogę pozwolić ci prowadzić w takim stanie.
- Nie jestem zdenerwowany. Otwórz drzwi - mówię.
- Przykro mi. Nie mogę.

Na szczęście klasyczne taksówki jeszcze jeżdżą. Zatrzymuje jedną i jadę do centrum. Po ciężkim dniu w pracy idę się zrelaksować do baru.

- Nie spaliłeś dziś wymaganej liczby kalorii. Powinieneś w tym tygodniu zrobić jeszcze minimum godzinny, dodatkowy trening cardio.

Klnę na głos. Na szczęście tego mi asystent nie zabroni. W barze zamawiam whisky z colą. Przykładam palec do skanera odcisków. System automatycznie wykrywa mój wysoki poziom cukru i odmawia podania mi drinka. Patrzę na barmana wymownie.

- Przykro mi – mówi barman i pokazuje na symbol "pij bezpiecznie".

To element państwowego programu, który ma zapobiegać pijaństwu, ale także chorobom. Bar funkcjonuje w zintegrowanym systemie płatniczo-dostawczo-ubezpieczeniowym. Jeśli zacznie sprzedawać wbrew nakazaniom algorytmu, to straci zarówno ubezpieczenie, jak i wsparcie jednego z dwóch głównych dostawców alkoholu.

- W takim razie piwo – mówię.
- Jedno piwo to tysiąc kalorii – wtrąca się Asystent.
- Czystą – kończę dyskusję.

W barze kręci się kilka atrakcyjnych kobiet, które tak jak ja, odreagowują po pracy. Odpalam aplikację randkowką. Algorytm lokalizuje mnie po GPS i zaczyna analizować wszystkie potencjalne partnerki.

- Cztery możliwe matche - mówi aplikacja. - Najwyższe prawdopodobieństwo związku: 43 proc.
- 43 procent? - myślę sobie - To nie chce mi się nawet zawracać głowy.

Rezygnuję z flirtu i idę do domu. Staję przed drzwiami. Skaner skanuje mi twarz. "Brak dostępu". Próbuje jeszcze kilka razy. Bez sukcesu. Widocznie moja twarz po całym dniu pracy i kilku głębszych wygląda inaczej niż wtedy, gdy się skanowałem ostatnim razem.

- Asystencie otwórz drzwi.
- Niestety nie mam dostępu do twojego systemu domowego. Dostarcza go inny producent. Jeśli chcesz mogę zadzwonić na ich infolinię.

Po kolejnej godzinie rozmawiania z robotami udaje mi się połączyć z ludzkim operatorem. Proszę o pomoc. Zdalnie otwiera mi drzwi do domu. Rzucam się na łóżko i wyklinam na całą współczesną technologię. Ale po chwili przypominam sobie, jak instalowałem każdą z tych aplikacji i przystępowałem do każdego programu z myślą, że ułatwi mi to życie.