Oto przyszłość sztucznej inteligencji. Wojna światowa bez żadnego wystrzału

Robot, który zwraca się przeciwko nam. Rebelia żądnych śmierci człowieka maszyn. Proroctwa z filmów sci-fi można włożyć między bajki. Eksperci nie mają wątpliwości, że bitwa już trwa, tylko wielu nie ma o tym pojęcia. Bo wygląda inaczej niż to sobie wyobrażaliśmy.

Warszawa, rok 2019. Marcin jest szeregowym pracownikiem dużej zachodniej korporacji. Wstanie skoro świt, weźmie szybki prysznic i pojedzie do biura hulajnogą miejską lub autobusem, zabierając jeszcze ze sobą smartfona i laptop. Do budynku firmy wejdzie dzięki karcie dostępu, a później przez następnych 8 godzin pozostanie zalogowany w systemie wewnętrznym. W międzyczasie wyskoczy tylko na szybki lunch, za który zapłaci kartą, i sporadycznie odpisze na Facebooku narzeczonej. A gdy już skończy pracę, po drodze do domu odwiedzi pobliskie centrum handlowe.

Mało prawdopodobne, aby znikąd wytoczył się uzbrojony humanoid i przeszkodził Marcinowi w realizacji tego schematu. Za to systemów telemetrycznych i kamer CCTV z całą pewnością nie braknie. Operator hulajnogi prześledzi trasę, a pracodawca – zachowania na terenie zakładu. Bank dowie się o dokonanych zakupach. Swoją część danych o Marcinie zbiorą też wszystkie podmioty związane z jego urządzeniami elektronicznymi i aktywnością w sieci.

Marcin musi się liczyć z tym, że poszczególne informacje każdorazowo zasilą jakiś większy zbiór danych. Nierzadko tak duży, że analiza tych danych przez człowieka nie wchodzi w grę. Facebook już w 2012 roku chwalił się, że ma do dyspozycji 180 PB (petabajtów) informacji. Gdyby chcieć zapisać to na popularnych obecnie dyskach twardych o pojemności 2 TB, trzeba byłoby zapełnić dokładnie 90 tys. nośników. Ułożone na sztorc, jeden na drugim, zajęłyby odległość blisko 2,5 km.

Oczywiście dane te, analizowane przez algorytmy, służą do profilowania klienta czy użytkownika. W dzisiejszym biznesie nie ma przypadków – jest matematyka i rachunek prawdopodobieństwa. To żaden zbieg okoliczności, że bank dzwoni z ofertą kredytu konsumenckiego chwilę po drogich zakupach, witryny internetowe wyświetlają reklamy dopiero co wyszukiwanych w przeglądarce produktów, a sklepy stacjonarne ustawiają wyprzedawane towary tam, gdzie zwyczajowo kłębią się tłumy. I można tak wymieniać i wymieniać.

Co to oznacza dla Marcina? I, tak naprawdę, każdego z nas? W pewnym sensie żyjemy pod stałym nadzorem, w świecie zależnym od komputerów i sterujących nimi algorytmów. Algorytmy pełnią coraz ważniejszą rolę. Już nie tylko decydują o treści reklam w Google czy na Facebooku, ale wręcz definiują ostateczny wygląd oprogramowania, a nawet otaczającego nas świata. Określają też zdolność kredytową. Lecąc na zagraniczne wakacje, nie mamy pojęcia, że samolot tylko przez krótką chwilę sterowany jest przez człowieka. Większą część lotu wykonuje komputerowy autopilot.

Najnowszy raport stworzony w ramach tzw. Projektu SHERPA, europejskich badań nad etyczną i prawną stroną SI, przedstawia bardzo ponurą wizję. Zdaniem ekspertów, kilka sprawnych ataków hakerskich może kompletnie sparaliżować dzisiejszy świat, a my żyjemy w stałym zagrożeniu ze strony potencjalnie przejętych systemów.

- Ludzie niewłaściwie utożsamiają inteligencję maszynową z inteligencją ludzką i myślę, że dlatego kojarzą zagrożenie ze strony AI z zabójczymi robotami - zauważa Andy Patel z Centrum Doskonalenia Sztucznej Inteligencji F-Secure. - Ale w rzeczywistości próby przejęcia kontroli nad SI zdarzają się regularnie. Ataki mające na celu zatrucie systemów sztucznej inteligencji, których ludzie używają każdego dnia, takich jak systemy rekomendacji, są codziennością - dodaje Patel.

Pisząc bardziej obrazowo: Wyobraźcie sobie sytuację, w której komputery zalewa propagandowy spam, banki przestają funkcjonować, komunikacja zostaje poważnie zakłócona przez problemy z systemami nawigacji, ludzie nie mogą wykonywać pracy przez uszkodzone systemy dostępu i sieci wewnętrzne przedsiębiorstw. To istny paraliż - a paść nie musi choćby jeden strzał.

Próby tego rodzaju ataków występują od dawna. Już w 2015 roku świat obiegły informacje o prokremlowskich trollach, którzy na etat tworzą przychylne rosyjskim władzom komentarze i artykuły. W 2018 roku hakerzy wykradli wrażliwe dane pół miliona pasażerów British Airways, w tym numery kart kredytowych. Znane są przypadki hakowania elektrycznych hulajnóg i przejmowania nad nimi kontroli.

Eksperci z SHERPA wskazują wprawdzie, że na dzień dzisiejszy nie ma żadnego udokumentowanego ataku na sztuczną inteligencję, ale ich zdaniem to tylko kwestia czasu. Aktywność cyberprzestępców zwiększa się z roku na rok, a my, żyjąc w świecie zależnym od algorytmów i dużych zbiorów danych, jesteśmy stale wystawieni na cios. I musimy nieprzerwanie zachowywać czujność. Tak, jak żołnierz na polu bitwy. To wojna człowieka z technologią, pomimo że nie ma filmowych strzałów i płomieni.

Sam raport, niestety, nie zawiera żadnych konkretnych danych. To bardziej rodzaj filozoficznego skryptu, który tylko obrazuje pewne schematy. Niemniej nie sposób nie przyznać tu racji. Wizja ogólnego paraliżu systemów teleinformatycznych jest nam znacznie bliższa niż strzelające androidy - a chyba lepiej skupiać się na problemie realnym niż wizji artystów.