Google chce powstrzymać Bunt Maszyn. Czy powinniśmy się obawiać sztucznej inteligencji?

Google i badacze z uniwersytetu w Oxfordzie pracują nad narzędziami, które na życzenie człowieka wstrzymują pracę wybranych funkcji sztucznej inteligencji. Owe narzędzia uwzględniają metody na powstrzymanie buntu lub oporu ze strony AI, w jakiejkolwiek formie miałby się on nie objawić.

Sztuczna inteligencja wydaje się być aktualnie konikiem zarówno Google'a, jak i Microsoftu. Wielu filozofów i uczonych zadaje sobie jednak pytanie, czy to właściwa droga i czy przypadkiem nie niesie ona zbyt wielu niebezpieczeństw. Google jednak zachowuje środki ostrożności (lub pozwala nam w to wierzyć).

Przeczytaj także: Tak brzmi pierwszy utwór skomponowany przez sztuczną inteligencję

Niedawno pisaliśmy o kilku przypadkach, kiedy sztuczna inteligencja wymykała się spod kontroli. Z problemem niesforności AI borykał się np. Microsoft. Firma popuściła cugle, chcąc zaobserwować, czego nauczy się ich program od innych internautów. By nawiązać rozmowę z Tay wystarczyło wysłać tweeta lub wiadomość prywatną na @tayandyou na Twitterze. Internauci, a raczej - internetowe trolle - szybko zaczęli wykorzystywać system oparty na kluczowych słowach i "naiwność" algorytmu. W ciągu zaledwie doby Tay nauczyła się rasistowskich, seksistowskich i ksenofobicznych zachowań - m.in. twierdziła, że Hitler nie zrobił nic złego, a George Bush stoi za zamachem z 1. września. Oberwało się także konsoli Microsoftu - czatbot stwierdził, że PlayStation 4 jest lepsze i tańsze od Xbox One. Większość obraźliwych tweetów Microsoft szybko zdjął z profilu, a pod koniec dnia postanowił zawiesić pracę Tay do odwołania. To delikatny przykłąd tego, na co stać AI.

Czasy, w których inteligentne maszyny staną się rzeczywistością w końcu nadejdą. I jak się okazuje, nie wszyscy przyjmują tą perspektywę z entuzjazmem. Stephen Hawking wraz z innymi naukowcami: Stuartem Russelem, Frakiem Wilczekiem i Maxem Tegmarkiem ostrzegają na łamach brytyjskiego "The Independent": nie wiemy co się stanie, wraz z rozwojem sztucznej inteligencji.

Jakiś czas temu Hawking opowiadał o swoich obawach przed sztuczną inteligencją. - W przeciągu najbliższych stu lat komputery wyprzedzą ludzi pod względem inteligencji - powiedział Stephen Hawking na konferencji Zeitgeist. - Kiedy to się stanie, musimy się upewnić, że cele komputerów będą zbliżone do ludzkich. Nasza przyszłość to wyścig, który odbywa się pomiędzy rosnącą potęgą technologii i naszą wiedzą na temat korzystania z niej mądrze - dodał wybitny fizyk.

Nawet jeśli sztuczna inteligencja nie wyewoluuje w kierunku, który zagroziłby ludzkości, Hawking oraz inni naukowcy chcieliby już teraz zacząć dialog publiczny na temat badań związanych ze sztuczną inteligencją. W USA już ponad 10. startupów zajmuje się tworzeniem technologii opartej na AI - Hawking chciałby po prostu ustalić jasne zasady współpracy pomiędzy ludzką i sztuczną inteligencją.

słk
WP / chip

Polecamy w wydaniu internetowym chip.pl: Kamerka samochodowa za 99 zł z Biedronki