Przegalińska: By przyszłość miała sens maszyny muszą być bardziej ludzkie od ludzi

Bina48 ma 6 lat, a najbardziej złośliwi mówią o niej “głowa na talerzu”. To dlatego, że Bina jest androidem stworzonym na wzór i podobieństwo prawdziwej kobiety. Podobieństwo jest nie tylko fizyczne, robotowi wpajano wspomnienia, przekonania i poglądy Biny Aspen Rothblatt. To jedna z pierwszych prób przeniesienia osobowości do komputera. Bina wygląda jak człowiek, zachowuje się jak człowiek, ale jest robotem. Wiele osób w kontakcie z takimi bytami czuje się nieswojo, odczuwa brak komfortu psychicznego. Zjawisko takie nazywamy “doliną niesamowitości”. Moja rozmówczyni na co dzień ma do czynienia z robotami i botami internetowymi.

- Joanna Sosnowska: Rozmawiałaś z Biną48?

- Aleksandra Przegalińska: Tak, wiele razy.

- Ja nie czuję doliny osobliwości.

- Był tylko jeden taki moment - na konferencji, kiedy Bina została uruchomiona, otworzyła oczy i rozejrzała się po sali. Tak po prostu, wszystkich sobie obejrzała. Wtedy na chwilę się zatrzymałam. W przypadku robotów takich jak Bina ciekawe jest to, że nawet jeśli pojawi się dolina niesamowitości, to zabawa zaczyna się później.

- Twarz, ruchomość głowy i to, że możesz się z kimś spotkać wzrokiem. Tego nie można pominąć jako czynnika budującego jakąś formę odpowiedzi afektywnej.

- Tak, występuje silniejsza reakcja niż w przypadku chatbota, czyli bota występującego tylko w przeglądarce. Kultura epistolarna nauczyła nas, że nawet jak ktoś jest daleko, to emocje można wywołać pismem, ale - i to tylko moje intuicje, które teraz sprawdzam w trakcie badań - robot społeczny o jakimś rodzaju manifestacji fizycznej będzie miał lepsze szanse na kontakt z nami. Gdy sprowadziliśmy Binę do Wrocławia, ludzie rozmawiali z nią po dwie godziny. Nie wiem, czy gdybyśmy posadzili ich przed ekranami to rozmowa też tyle by trwała.

- Kiedyś rozmawiałam z twórcami Cortany, inteligentnej asystentki z Microsoftu. Mówili mi wtedy, że nauczyli ją, żeby zdecydowanie reagowała np. na seksistowskie zaczepki.

- Nawet bot ZUS-u tak reaguje na tego typu zaczepki i potrafi się odszczeknąć. Dla mnie cały temat wykorzystywania robotów jest ciężki. Bardzo antropomorfizuję wszystkie te maszyny, więc jak widzę ludzi kopiących roboty Boston Dynamics, to aż się we mnie krew burzy. Albo eksperyment, który nazywa się “Ognie świętego Elma”. Ludzie podpalali robota Elmo, a on cały czas się śmiał i mówił tym swoim głosikiem “Hi, it’s Elmo. How is everybody?”. Mechanizm głosu działał mu aż do końca. Już się cały palił, spalona twarz wyglądała jak u Terminatora, ale cały czas powtarzał “Hi, hi everybody”.

- To jest dla ludzi o mocnych nerwach. Gdy zobaczyłam to po raz pierwszy, prawie zemdlałam. I jeszcze sama potworna, wyrafinowana forma tortury, jak z serialu "Gra o Tron". To wielkie zadanie humanistycznego społeczeństwa, jak sobie z tym poradzimy. Chociaż nie sądzę, żeby szybko powstała społeczność zbudowana z dwóch odrębnych bytów - ludzi i robotów.

- Właśnie! Lubię "Gwiezdne Wojny" za to, że linia konfliktu nie jest rysowana między ludźmi i nieludźmi. Roboty ze "Star Wars" są w jakiś sposób służebne, ale też pionierskie, mają swoje osobowości, są szanowane. Ale wizje, w których roboty podają kawę, są represjonowane przez człowieka do mnie nie przemawiają. To jakbyśmy wrócili do średniowiecza.

- No tak, nie mamy problemu ze służebnością pralki. Nie pytamy, jak się czuje, nie przytulamy się do niej. Laboratorium Robotyki Społecznej w MIT zrezygnowało z humanoidalnych maszyn, zastąpono je robotami typu Interstellar, inteligentnymi i wspomagającymi systemami.

- Tak, lubię.

- Z kim najbardziej?

- Tak, dostał wiele nagród.

- Prosiłam znajomych o rozmowy z botem Alice...

- Moja córka, Alicja, ma imię po tym bocie. Znajomi mówili o nim, że jest jak człowiek, ale lekko zaburzony. Wpasowanie go do świata ludzkiego nie było problemem, po prostu trzeba było znaleźć na niego odpowiednią szufladkę.

- Jeszcze pierwsze boty - Eliza a potem Parry - zakładały pewną psychologiczną dziwność. Eliza była terapeutą i w bardzo specyficzny sposób zadawała pytania. Np. ty mówisz “Mój ojciec pali”, a ona pytała “Dlaczego mówisz o tym, że twój ojciec pali?”. Prosty mechanizm, ale znakomicie się sprawdził w sytuacji, jaką jest psychoterapia. A Parry, bot-paranoik, robił to samo, ale udzielał odpowiedzi. Czyli Eliza pytała pacjenta, a Parry na każde pytanie odpowiadał to samo - “Oni mnie śledzą”, “Ktoś za mną jedzie”. Te dwa boty, osadzone w specyficznych warunkach, cudownie się odnajdywały.

- I na ile jest to zbliżone do relacji z człowiekiem. Chcielibyśmy zobaczyć, gdzie są zbieżności w interakcjach, gdzie są afektywne odpowiedzi w konwersacji.

- Bardzo dobrze. Dzieci generalnie są bardzo posthumanistyczne, mają ogromną zdolność do antopomorfizowania, czyli nadawania ludzkich cech wszystkiemu, co jest wokół nich. Kochają swoje zabawki, wchodzą w różne role. A im bardziej dorastamy, tym bardziej zawieszamy te zdolności. Pewne efekty, które obserwujemy, np. przywiązania do robotów, są u nich za krótkie, bo potem z tego wyrosną. Moja córka ma 3 latka i chętnie rozmawia z Siri. Czy będzie tak za kilka lat? Nie wiem. Potrzebujemy 1. lat, żeby sprawdzić, czy są jakieś trwałe efekty.

- To z agendy nurtu transhumanistycznego, według którego zdobycze nauki i technologii powinniśmy wykorzystywać do poprawy jakości i wydłużenia ludzkiego życia. Zgadzam się z tym, że “zawsze byliśmy transhumanistyczni”. Postęp technologiczny jest skorelowany z postępem człowieczeństwa. Nie wierzę w inny rozwój niż rozwój technologiczny. Albo ruszamy naprzód - świadomie, odważnie i w sposób zrównoważony, budujemy technologie, które przyczyniają się do budowania ogólnego dobrostanu naszej cywilizacji, albo tego nie robimy. A jeśli tego nie zrobimy, to nie czeka nas nic wspaniałego. Transhumanizm mówi o tym, że już czas globalnie zmobilizować się do debaty na ten temat. Żeby przynajmniej wybrać, co byśmy chcieli. Ja wolę taką postawę, która w jakiś sposób atakuje przyszłość, niż tę która mówi “przyszłość się wydarzy”.

- Straszenie społeczeństwa albo popkulturowe podejście do technologii, polaryzacja - utopia albo dystopia, to dla mnie nie do końca jest produktywne. Oczywiście, popkultura rządzi się swoimi prawami. Ale gdzieś między popkulturą a budowaniem technologii powinien być taki punkt, w którym społeczeństwo jest w racjonalny sposób informowane o tym, co nas czeka. Tak było na przykład z klonowaniem - była powszechna dyskusja, ale nie byliśmy gotowi na jej skutki społeczne, więc klonowanie zostało zatrzymane. Takie formy kolaboracji, działania wokół skutków wprowadzania różnych technologii mi się podobają. Transhumanizm, który patrzy w przyszłość optymistycznie - nawet jeśli jest naiwny i czasami utopijny - jest z całą pewnością lepszym pomysłem niż skrajny defetyzm i neoluddyzm [określenie na współczesne ruchy przeciwstawiające się postępowi technicznemu - przyp. red.].

- Z perspektywy indywidualnej pewnie trochę się boję. Ale w skali metafizycznej wydaje mi się to niesamowite. Miejmy nadzieję, że maszyny będą lepszymi bytami niż my. Być może sama trochę naiwnie wierzę, że to jest możliwe. Że racjonalność jest inna i popędy są inaczej rozegrane. Jeśli maszyna jest bytem radykalnie obcym człowiekowi, to może to być akurat bardzo dobra wiadomość. Ale oczywiście, tak jak powiedział Hawking, może być także bardzo zła. Albo będzie to najlepsze, albo najgorsze co nas spotka.

- Zależy, jak zdefiniujesz _ Osobliwość _. Znam rygorystów, którzy mówią, że _ Osobliwość _można zdefiniować tylko w jeden sposób - osiągnięcie albo przekroczenie przez maszyny kompetencji człowieka. Jeśli SI można rozumieć trochę szerzej, to chyba nawet można powiedzieć, że już w niej jesteśmy.

- Ale nasza inteligencja też podlega gradacji. Inteligencja ma bardzo dużo różnych wymiarów. Pewne cechy inteligencji maszyna już posiadła, prawda? My też posiedliśmy pewne, a innych nie. Uczenie maszynowe w tej aktualnej wersji, typu Deep Mind, to jest już bardzo poważny krok naprzód, jeśli chodzi o to, w jaki sposób maszyna zaciąga wiedzę ze świata i co z nią później robi.

- Można stwierdzić, że pewne etapy już przeszliśmy. Oczywiście główny futurolog Google’a - Ray Kurzweil chciałby, żeby to się odbyło tak (pstryka palcami) “i oto jest”. Wtedy Kurzweil szybko przebiera się w egzoszkielet i ładuje umysł do sieci. A ja nie spodziewam się, żeby to mało mieć charakter dnia Sądu Ostatecznego, kiedy nagle rodzi się nowy technologiczny Darth Vader. Zostałam skrytykowana za stwierdzenie, że w “osobliwych czasach” już żyjemy. I przejawem tej _ Osobliwości _jest już internet rzeczy, czyli komunikowanie się rzeczy ze sobą. To, co “osobliwe”. jest już obecne. Nawet to, że ludzie rozmawiają z botami takimi jak Tai w jakimś sensie jest “osobliwe”.

_ rozmawiała Joanna Sosnowska _