Czy sztuczna inteligencja może nam zagrażać?
HAL 9000, SkyNet, Wintermute czy myślące maszyny – wszystkie doskonale znane są fanom science-fiction. Ale jakie są szanse, że sztuczna inteligencja naprawdę stanie się samoświadoma i w pewnym momencie swojego istnienia postanowi pozbyć się swoich twórców? Odpowiedzi na to pytanie poszukają naukowcy z Cambridge.
Do tej pory rozważania nad zagrożeniami płynącymi z badań nad sztuczną inteligencją były raczej domeną pisarzy i filmowców. Ale na z prestiżowym University of Cambridge powstanie całkowicie poważne centrum o nazwie Center for the Study of Existential Risk, którego zadaniem będzie wskazanie sposobów, dzięki którym technologia, łącznie z sztuczną inteligencją, mogłaby zagrozić istnieniu ludzi jako gatunku.
Ufundowane przez profesora filozofii Huw Price’a, Martina Reesa, profesora kosmologii i astrofizyki, oraz współzałożyciela Skype’a Janna Tallinna centrum, ma zostać otworzone w przyszłym roku.
"_ W przypadku sztucznej inteligencji wydaje się, że rozsądnie jest założyć, że za jakiś czas, w tym lub w przyszłym stuleciu, inteligencja nie będzie już przywiązana do biologii, " mówi profesor Price. Kiedy to już się stanie, " nie będziemy już najbystrzejszymi stworzeniami w okolicy ", będziemy za to " na łasce maszyn, które niekoniecznie muszą mieć złe intencje, ale po prostu możemy ich nie interesować. _"
Price porównuje zagrożenia dla ludzi ze strony sztucznej inteligencji do tego, co my każdego dnia robimy ze środowiskiem naturalnym. Według Price’a pewnego dnia maszyny po prostu skierują surowce naturalne do realizacji własnych celów, nie licząc się z rzeczami ważnymi dla nas. Ale nie jest to oczywiście jedyny scenariusz.
Zobacz: Jak wybrać czajnik elektryczny?
Założone przez nich centrum ma zidentyfikować możliwe zagrożenia, dzięki czemu będzie można próbować ich uniknąć.
