W raporcie „Losing Humanity”, przygotowanym wspólnie przez Human Rights Watch oraz Harvard Law School, organizacja postuluje opracowanie konwencji międzynarodowej, która „całkowicie zakazywałaby opracowywania, produkcji i użytkowania w pełni autonomicznej broni”.
Trzeba przyznać, że pomimo naszej fascynacji najnowszymi technologiami wojennymi, HRW ma trochę racji –. w pełni autonomiczne systemy bojowe, które same zadecydują o tym czy ktoś ma zginąć czy nie, są trochę przerażające.
Wykorzystywane dziś na całym świecie drony bojowe, głównie przez USA, pomimo swojego zaawansowania technicznego i możliwości wykonywania wielu czynności automatycznie, w chwili odpalania rakiet kontrolowane są przez operatora znajdującego się w odległej bazie. Ale dość łatwo wyobrazić sobie sytuację, w której decyzja o użyciu broni byłaby podejmowana przez algorytmy robota.
Nie jest to znowu takie science-fiction jak mogłoby się wydawać. Już dziś system Raytheon Phalanx, który montowany jest na pokładach okrętów US Navy przeczesuje przestrzeń wokół statku w poszukiwaniu nadlatujących rakiet i w razie ich wykrycia, automatycznie otwiera do nich ogień z działek pokładowych. X47. potrafi sam wystartować i wylądować na lotniskowcu czy przeprowadzić operację tankowania w powietrzu, a koreański robot strażniczy produkowany przez Samsunga, potrafi wykryć intruzów, a po zatwierdzeniu użycia siły przez człowieka – otworzyć do nich ogień. A to tylko kilka przykładów, którymi pochwalono się publicznie.
HRW chciałoby już teraz przerwać ślepy, ich zdaniem, zaułek technologii, który ma doprowadzić do opracowania algorytmów decydujących o czyimś życiu. Human Rights Watch największy problem widzi w tym, że nie bardzo wiadomo, kto byłby odpowiedzialny za nieuniknione błędy w działaniu. Błędy, dodajmy, śmiertelne. Kto miałby ponieść konsekwencje? Producent? Dowódca operacji? Dostawca oprogramowania? Bo na pewno nie robot.
Dobrze, że Human Rights Watch podnosi tę kwestię. Problem w tym, że żaden kraj nie ma obowiązku podpisywania czy ratyfikowania żadnej konwencji, więc efekty tego mogą być mizerne. Weźmy choćby przykład konwencji ottawskiej: USA, Rosja czy Chiny, najwięksi producenci min przeciwpiechotnych na świecie, nie mają zamiaru niczego podpisywać. W przypadku całkowicie autonomicznych robotów bojowych będzie tak samo.
