Technologia zniewolenia. Bójmy się czasów, gdy robot ma więcej praw niż człowiek

Gdy pod koniec października ujrzeliśmy humanoidalnego robota, który otrzymał obywatelstwo Arabii Saudyjskiej, mogliśmy odnieść wrażenie, że uczestniczymy wydarzeniu ważnym i przełomowym. Problem w tym, że to, co zobaczyliśmy, i co – o zgrozo – poważne media potraktowały zupełnie serio, było w praktyce czymś z pogranicza kabaretu i cyrku. Dlaczego?

Odpowiedź jest prosta. Sophia – bo takie imię nosi robot - dostała obywatelstwo, ale nic z tego nie wynika. Saudyjskie prawodawstwo nie zostało w żaden sposób dostosowane do nowej sytuacji. Nikt nie doprecyzował praw i obowiązków Sophii. Równie dobrze można było postawić gadający toster i obwieścić światu, że oto przed kamerami stoi nowy poddany króla.

Znamienny jest jednak inny fakt. Przez długi czas – mniej więcej od pierwszej rewolucji przemysłowej – nowoczesność miała oblicze Zachodu. Tego, do którego z różnym skutkiem, ale stale aspirujemy i za którego część chcemy się uważać. I tego samego, którym – jeszcze w latach 60. i 70. chciał być cały świat. Iran, Afganistan, Egipt (choć ten ostatni czerpał wzorce nowoczesności okrężną drogą - z ZSRR) – spójrzmy na zdjęcia i filmy z tamtej epoki. Na kobiety w krótkich sukienkach i z odsłoniętymi włosami, na uczelniane kampusy czy kafejki. I na prezydenta Egiptu, Gamala Adbela Nassera, który w 1966 roku z rozbawieniem opowiada zgromadzonym, że jacyś fanatycy chcą, aby w jego kraju kobiety zakrywały włosy, co wśród słuchaczy budzi wybuch wesołości.

Wspominam o tym dlatego, że nowoczesność przestała być atrybutem zachodniej, liberalnej demokracji.

XXI wiek pokazuje, że da się pogodzić ją z totalitaryzmem, który – jak Chiny – część technologii kupił, inne ukradł, podlał to sosem półwolnego rynku i osiągnął zadziwiające cały świat rezultaty.

Zmiany, zachodzące w krajach takich jak Arabia Saudyjska pokazują, że technologiczny rozwój da się bezproblemowo połączyć z sięgającym średniowiecza feudalizmem. Albo nawet – jak w Dubaju – z gospodarką wspartą jedną nogą na nanotechnologii, a drugą na niewolnictwie, skrywanym za fasadą pracy rzeszy imigrantów, pozbawionych elementarnych praw.

Dlaczego uparcie łączę w tym miejscu to, co mnie pasjonuje – czyli technologię – z tym, czym się brzydzę, czyli politykę? Sednem jest fakt, że połączenie technologii i demokracji daje mniej więcej przewidywalny efekt. Działają ramy prawne, mechanizmy i instytucje kontrolne, aktywność wolnych mediów czy w końcu presja społeczeństwa. To wszystko – rzecz jasna – jest dalekie od ideału, ale jednak jakoś działa.

Dzięki temu rozwojowi technologii towarzyszy refleksja nad jej wykorzystaniem. Powstają zasady etyki robotów, ramy prawne dla autonomicznych pojazdów, restrykcje związane z eksperymentami na ludziach czy ograniczenia dotyczące prawa do prywatności.

Gdy oddzielimy technologię od cywilizacyjnej kotwicy może okazać się, że najczarniejsze wizje futurystów były mocno niedoszacowane. Wtedy nośnik nieskrępowanego dostępu do informacji, jakim według idealistów z XX wieku miał być internet, okazuje się narzędziem opresji i kolejnym fundamentem propagandy totalitarnego reżimu. Technologia zamiast poprawiać los ludzi, służy ich zniewoleniu, a maszyna – zabawka władcy – ma więcej praw niż jego ludzcy poddani.

I co z tego? – zapyta niejeden mieszkaniec w miarę bogatej, rozwiniętej i spokojnej części świata. Na pozór nic, przynajmniej w tej chwili. Przyszłość – i to ta raczej całkiem bliska – zmusi nas jednak do znalezienia odpowiedzi na parę ważnych pytań, związanych z technologią.

- Czy androidy śnią o elektrycznych owcach? - pytał przed laty Philip K. Dick. Dzisiaj to pytanie wydaje się aktualne, jak nigdy wcześniej. Dopóki robot jest po prostu bardziej zaawansowaną wersją samojezdnego wózka na zakupy, wszystko wydaje się proste i oczywiste. Tak samo, gdy dopuścimy maszynę trochę bliżej, korzystając z wyrafinowanego masturbatora, jakim są choćby humanoidalne lalki, tworzone przez Matta McMullena. W tym przypadku granica – choć przesunięta – również jest w miarę widoczna.

Problem nasila się wraz z testem Turinga (to próba określenia zdolności maszyny do używania języka naturalnego), czy – patrząc na problem szerzej – z naszym emocjonalnym zaangażowaniem. Saudyjska Sophia raczej straszy, niż budzi sympatię. To normalne – ludzie odczuwają lęk przed maszynami, które starając się do nas upodobnić, wciąż nie potrafią ukryć swojej prawdziwej natury.

Ukrycie niedoskonałości Sophii jest jednak tylko kwestią czasu. Co wtedy? Co z ludźmi, którzy zabiją robota w przekonaniu, że odbierają życie człowiekowi? Co z tymi, którzy zabiją człowieka myśląc, że to maszyna? Co z pracą maszyn i jej opodatkowaniem? Co z romansami, przekraczającymi granice gatunku? Co z wyborem władz i reprezentacją obywateli, którzy – choć zamiast rodziców mają konstruktorów – otrzymają z czasem jakieś prawa i obowiązki?

Pamiętam krótki, stary film film, na którym ktoś dla zabawy podpalił dziecięcą zabawkę – robota Elmo. Ten płonął, powtarzając nagrane odgłosy i wykonując zaprogramowane ruchy, co – przynajmniej dla mnie – dawało makabryczny efekt. Jest tylko kwestią czasu, gdy na miejscu plastikowej wytłoczki pojawi się ciało do złudzenia przypominające nasze.

Prawo nie działa wstecz – ta mądra, sięgająca rzymskiego prawodawstwa zasada od dawna nie jest już aktualna. Choć w teorii wciąż obowiązuje, to coraz częściej rozliczamy minione pokolenia nie według standardów epoki, ale według naszych, XXI-wiecznych norm.

Niestety, to działa w obie strony. Kto wie, z czego będziemy rozliczani w przyszłości? Dlatego dobrze radzę: bądźmy mili dla robotów. One kiedyś wystawią nam rachunek.