Czy czeka na bunt maszyn? Czy roboty będą mogły świadomie zabić człowieka?

Tragiczny wypadek, który niedawno zdarzył się w fabryce Volkswagena sprawił, że odżyły wizje rodem z katastroficznych filmów science-fiction. Czy roboty rzeczywiście mogą być groźne?

Rewolucja robotów, technologiczna apokalipsa, to tylko niektóre z komentarzy, jakie pojawiły się po tym, jak 22-letni technik stał się ofiarą robota przemysłowego. Atmosferę podgrzał link do artykułu opublikowany na Twitterze przez dziennikarkę Financial Times. Nomen omen Sarę O’Connor –. przypomnijmy, że dokładnie tak nazywała się bohaterka Terminatora, serii filmów science-fiction z Arnoldem Schwarzeneggerem w roli głównej. Choć do tej pory podobnych incydentów jak ten w Niemczech zanotowano zaledwie kilka, nie przeszkadza to części obserwatorom snuć apokaliptycznych wizji. Czy są one w jakiejś mierze uzasadnione?

Liczby nie pozostawiają wątpliwości co do tego, że automatyzacja pracy postępuje. Ton technologicznej rewolucji nadaje przemysł. Według danych Międzynarodowej Agencji Robotyki w 201. r. sprzedano rekordową liczbę 180 tys. robotów przemysłowych. Prognozy mówią o blisko 300 tys. sprzedanych egzemplarzy w 2017 r. To ponad 4-krotnie więcej niż 6 lat temu. Nic dziwnego, bo roboty stają się coraz tańsze i doskonalsze. Na przykład Baxter, maszyna przemysłowa zaprojektowana przez Rethink Robotics, potrafi się dostosować do zmiennych warunków. Dzięki systemowi czujników i zainstalowanemu oprogramowaniu, Baxter może być poddawany procesowi szkolenia i opanować całkowicie nowe czynności w mniej niż 30 minut.

Zrobotyzowane są dziś już nie tylko fabryki i magazyny, robotyka wkracza do naszych mieszkań. Liczbę robotów „użytkowych”. ocenia się dziś na co najmniej kilka milionów. Historycznie rzecz biorąc, na początku rewolucji technologicznej zakładaliśmy, że maszyny wyręczą nas przede wszystkim w pracach trudnych, niebezpiecznych a jednocześnie nie wymagających wysokich kwalifikacji. I tak rzeczywiście jest. Z roku na rok roboty znajdują jednak zastosowanie tam, gdzie wymagane są znacznie większe umiejętności. W 2013 r. w Stanach Zjednoczonych zezwolono np. na użycie maszyny na sali operacyjnej. Dawkuje ona pacjentom propofol – substancję usypiającą – bez potrzeby ingerencji ze strony anestezjologa. Ostatnie analizy wskazują też, komputer radzi sobie znacznie lepiej w odczytywaniu wyników radiologicznych niż lekarze. Rewolucję w diagnostyce zapowiada projekt IBM Watson – notabene właśnie wdrażany w Centrum Zdrowia Dziecka w Warszawie – szybciej, sprawniej i z 90% skutecznością analizujący dane zbierane m.in. przez
mobilne aplikacje zdrowotne. Dzięki temu lekarze zyskają nowe narzędzie do prewencji i walki z chorobami.

Robotom coraz bliżej do ludzi. Na zakończonych niedawno targach elektronicznych w Hong-Kongu zademonstrowano robota skonstruowanego w celu jak najdoskonalszego imitowania człowieka. Firma Hanson Robotics, która zasłynęła wcześniej opracowaniem robotów o aparycji Alberta Einsteina i pisarza Philipa K. Dicka, skonstruowała Hana. Dzięki realistycznie wyglądającej skórze oraz 4. ukrytym pod nią silniczkom, robot potrafi wykonywać bardzo subtelne ruchy mimiczne. Kamery obserwują i analizują twarz rozmówcy a Han dostosowuje mimikę do jego emocji. Co więcej, dzięki modułowi rozpoznawania głosu robot rozumie mowę. Potrafi też mówić „ludzkim”, męskim głosem i udzielać odpowiedzi, czemu towarzyszy odpowiedni ruch ust. Efekt? Piorunujący.

Producent zakłada, że Han póki co znajdzie zastosowanie w hotelach i kasynach, ale wspomina też o placówkach opieki zdrowotnej. Podobną rolę ma pełnić inny robot, Pepper, który także potrafi rozpoznawać wyraz twarzy człowieka, gestykulację oraz głos i odczytywać ludzkie emocje, a także wykonywać różne proste czynności.

Eksperci firmy analitycznej Gartner szacują, że do 202. r., w Stanach Zjednoczonych ponad 30% miejsc pracy zostanie zautomatyzowanych. Praca będzie wykonywana przez roboty, oprogramowanie lub smart urządzenia. Jest to całkiem realna prognoza, bo roboty stają się coraz bardziej precyzyjne. Niedawno japońska firma Yaskawa Electric Corporation zaprezentowała robota przemysłowego o niezwykłych umiejętnościach samurajskich. Podczas pojedynku, maszyna pokonała Isao Machii, japońskiego mistrza miecza, który ma na swoim koncie kilka światowych rekordów Guinnessa.

Obecnie precyzja robotów osiąga 0,0. milimetra. Kiedy precyzja działania osiągnie poziom 0,01 milimetra, roboty będą mogły zastąpić prawie każdą manualną pracę ludzi. Oznacza to szybsze i dokładniejsze spawanie, skręcanie i składanie tych samych części, czy – wybiegając nieco w przyszłość – być może także realizowanie zamówień w McDrive.

Ray Kurzweil, szef inżynierów w Google twierdzi, że do 202. inteligencja robotów zrówna się z tą ludzką. Jakby nie patrzeć, dzisiaj roboty wykonują czynności, które może wykonać człowiek dysponujący średnim ilorazem inteligencji na poziomie 100. Jeśli jednak przyjmiemy, że co roku inteligencja będzie rosła o 1,5%, to okaże się, że na przestrzeni dekady inteligencja maszyn przekroczy inteligencję większości ludzkiej populacji. Co wtedy?

Eleon Musk, założyciel PayPala powiedział kiedyś, że samodzielnie myślące roboty mogą okazać się groźniejsze niż broń nuklearna. Wśród naukowców nie brak opinii, że maszyny nastawione na jeden prosty cel, np. produkcję układów scalonych mogłyby doprowadzić do zniszczenia cywilizacji poprzez zużycie wszystkich surowców i źródeł energii. Warunek jest jednak jeden, za to bardzo istotny: musiałyby samodzielnie zmodyfikować algorytm sterujący ich pracą i uodpornić się na działania człowieka. Dzisiaj całe linie produkcyjne są zautomatyzowane i sterowane przez oprogramowanie ERP wspomagające procesy technologiczne. Maszyny wykonują czynności i podpowiadają pewne rozwiązania, ale o wszystkim wciąż decyduje człowiek. Przykładem może być automatyzacja magazynu. Oprogramowanie podpowiada lokalizację towaru w magazynie i wskazuje do niego najkrótszą drogę. Wózek widłowy samodzielnie przemieszcza się w magazynie wykonując pracę bez pomocy człowieka, opierając się na instrukcjach wydanych przez oprogramowanie. Ale to
człowiek cały czas nadzoruje pełen proces i interweniuje, gdy na hali dzieje się coś niepokojącego. Jednak możliwość łączności poprzez WIFI z globalną siecią np. terminali wózkowych oraz otwartość technologii sprawiająca, że urządzenia rozpoznają się i „parują”. przekazując sobie wzajemnie polecenia może sprawić, że nasze poczucie bezpieczeństwa będzie złudne.

Nie tylko więc teoretycznie można wyobrazić sobie atak hakerski obliczony na zniszczenie przeciwnika, dokonujący zmian w sterowaniu maszyny (np. w „inteligentnych”. licznikach prądu, co jest tematem głośnej powieści Marca Elsberga Blackout). Zagrożenie jest duże, potencjalne straty i niebezpieczeństwo dla człowieka także. Trudno jednak w takiej sytuacji oskarżać robota o ewentualne konsekwencje.

Sęk w tym, że dzisiaj armie poważnie zastanawiają się nad wprowadzeniem autonomicznego systemu obronnego, który eliminowałby wybrane przez siebie cele. Taki projekt realizuje m.in. amerykańska agencja DARPA. Jego celem jest stworzenie dronów, które mogą namierzać i eliminować cele bez potrzeby nadzoru ze strony człowieka. Tu wkraczamy na nieznany i bardzo kontrowersyjny grunt.

Nie ma wątpliwości co do tego, że roboty będą stawać się coraz bardziej autonomiczne, ryzyko, że „coś pójdzie nie tak”. będzie więc coraz większe. Przykładem mogą być choćby samochody, które samodzielnie hamują a docelowo same będą się poruszały po drogach (projekt Google). Konsekwencje ewentualnej awarii systemu mogą być tragiczne. Nie dziwi więc rozwój roboetyki, która próbuje zdefiniować zasady, których należy przestrzegać przy tworzeniu i wykorzystaniu robotów.

Póki co, roboty nie są dla nas jednak żadnym zagrożeniem. Za pierwszą ofiarę robota uznaje się pracownika zakładów Kawasaki. Kenji Urada zginął w 198. r. Inne źródła wskazują na Roberta Wiliamsa i zakłady Forda. Warto zwrócić uwagę na dwie rzeczy: przyczyną śmierci Urady był błąd ludzki, Wiliamsa brak standardów bezpieczeństwa. Na przestrzeni 30 lat w Stanach Zjednoczonych zanotowano zaledwie 33 wypadki z udziałem robota. Niewiele. W Polsce, gdzie zrealizowaliśmy do tej pory kilkaset wdrożeń systemów ERP w firmach produkcyjnych, nie zdarzył się do tej pory żaden wypadek.

Ryan Calo, profesor robotyki i cyberprawa na uniwersytecie w Waszyngtonie wszystkich zwolenników idei „robozagrożenia”. uspokaja: dziś roboty przemysłowe posiadają ogromną siłę, bo zostały zaprojektowane do realizacji prostych czynności, wymagających dużej energii. Gdy roboty opuszczą hale fabryk i na dobre wkroczą do naszych biur, mieszkań i szpitali, będą projektowane pod kątem interakcji z człowiekiem. W taki sposób, że staną się bezpieczniejsze.

_ Jaromir Paszek, Menedżer ds. Kontraktów w BPSC S.A. _