Sztuczna inteligencja podczas rywalizacji staje się agresywna

Gdy sztuczna inteligencja dojdzie do wniosku, że chwycenie za spust pomaga osiągnąć korzyści, nie waha się tego zrobić. Na razie tylko w grze. Na razie…

Eksperyment, w którym wzięła udział sztuczna inteligencja od DeepMind, polegał na grze w zbieranie wirtualnych jabłek. SI rywalizowały ze sobą o to, który gracz zbierze ich więcej. Mniej rozwinięte sztuczne inteligencje skupiały się wyłącznie na pozyskiwaniu, co prowadziło do remisu.

Jednak wystarczyło podkręcić “mądrość” SI, by ta zaczęła korzystać z dodatkowej funkcji - strzelania do przeciwnika. Rywal trafiony nie mógł się przez chwilę ruszać, więc była to szansa dla strzelca, by zebrać więcej jabłek i wygrać pojedynek.

Im inteligentniejszy był system, tym częściej stwierdzał, że strzelanie do przeciwnika pomoże mu wygrać rozgrywkę. Dochodziło więc do licznych strzelanin. Logiczne, ale z naszego punktu widzenia niezwykle niepokojące.

Czy w takim razie sztuczna inteligencja jest agresywna, czy po prostu skuteczna? W końcu tylko skorzystała z jednej z opcji, nie naginając zasad. Dla własnego spokoju lepiej wierzyć w tę drugą opcję. Choć fakt, że mniej pokojowe zamiary zostały przez SI odrzucone, może powodować gęsią skórkę.

Można jednak wyciągać wnioski z tej prostej gry: lepiej nie dopuszczać do sytuacji, by SI mogła do kogokolwiek strzelać. W końcu nie wiadomo, kogo uzna za wroga. I dlatego Elon Musk już ostrzega przez sztuczna inteligencją, która sama może wypowiedzieć wojnę ludzkości.