Sztuczna inteligencja podczas rywalizacji staje się agresywna

Sztuczna inteligencja podczas rywalizacji staje się agresywna
Źródło zdjęć: © Youtube.com | Boston Dynamics
Adam Bednarek

14.09.2017 16:07

Zalogowani mogą więcej

Możesz zapisać ten artykuł na później. Znajdziesz go potem na swoim koncie użytkownika

Gdy sztuczna inteligencja dojdzie do wniosku, że chwycenie za spust pomaga osiągnąć korzyści, nie waha się tego zrobić. Na razie tylko w grze. Na razie…

Eksperyment, w którym wzięła udział sztuczna inteligencja od DeepMind, polegał na grze w zbieranie wirtualnych jabłek. SI rywalizowały ze sobą o to, który gracz zbierze ich więcej. Mniej rozwinięte sztuczne inteligencje skupiały się wyłącznie na pozyskiwaniu, co prowadziło do remisu.

Jednak wystarczyło podkręcić “mądrość” SI, by ta zaczęła korzystać z dodatkowej funkcji - strzelania do przeciwnika. Rywal trafiony nie mógł się przez chwilę ruszać, więc była to szansa dla strzelca, by zebrać więcej jabłek i wygrać pojedynek.

Im inteligentniejszy był system, tym częściej stwierdzał, że strzelanie do przeciwnika pomoże mu wygrać rozgrywkę. Dochodziło więc do licznych strzelanin. Logiczne, ale z naszego punktu widzenia niezwykle niepokojące.

Czy w takim razie sztuczna inteligencja jest agresywna, czy po prostu skuteczna? W końcu tylko skorzystała z jednej z opcji, nie naginając zasad. Dla własnego spokoju lepiej wierzyć w tę drugą opcję. Choć fakt, że mniej pokojowe zamiary zostały przez SI odrzucone, może powodować gęsią skórkę.

Można jednak wyciągać wnioski z tej prostej gry: lepiej nie dopuszczać do sytuacji, by SI mogła do kogokolwiek strzelać. W końcu nie wiadomo, kogo uzna za wroga. I dlatego Elon Musk już ostrzega przez sztuczna inteligencją, która sama może wypowiedzieć wojnę ludzkości.

Oceń jakość naszego artykułuTwoja opinia pozwala nam tworzyć lepsze treści.
Wybrane dla Ciebie
Komentarze (9)