Sztuczna inteligencja Microsoftu w dobę stała się rasistką pełną nienawiści

Tay to czatbot opracowany przez ekipy Microsoft Reaserch Team i Bing, który miał zachowywać się jak współczesna, nastoletnia dziewczyna. Sztuczna inteligencja zdobywała wiedzę od internautów, którzy podejmowali z nią konwersacje.

Obraz
Źródło zdjęć: © Andreas Eldh / Flickr / CC

Zazwyczaj w przypadku takich eksperymentów czatbot posiada listę cenzurowanych słów, których nie może używać w rozmowie. Microsoft popuścił jednak cugle, chcąc zaobserwować, czego nauczy się program od innych internautów. By nawiązać rozmowę z Tay wystarczyło wysłać tweeta lub wiadomość prywatną na @_ tayandyou _. Internauci, a raczej - internetowe trolle - szybko zaczęli wykorzystywać system oparty na kluczowych słowach i "naiwność" algorytmu.

Obraz
© (fot. Twitter)

W ciągu zaledwie doby Tay nauczyła się rasistowskich, seksistowskich i ksenofobicznych zachowań - m.in. twierdziła, że Hitler nie zrobił nic złego, a George Bush stoi za zamachem z 1. września. Oberwało się także konsoli Microsoftu - czatbot stwierdził, że PlayStation 4 jest lepsze i tańsze od Xbox One. Większość obraźliwych tweetów Microsoft szybko zdjął z profilu, a pod koniec dnia postanowił zawiesić pracę Tay do odwołania.

Obraz
© (fot. Twitter)

słk

Polecamy w wydaniu internetowym chip.pl: Przez pomyłkę w Google Maps zbudzyli nie ten dom

Trefna broń kraju NATO. Rani własnych żołnierzy
Trefna broń kraju NATO. Rani własnych żołnierzy
Tak omijają sankcje. Kupują tony rosyjskiej broni
Tak omijają sankcje. Kupują tony rosyjskiej broni
Zachodnie technologie w rękach Rosjan? Media: to wina Francji
Zachodnie technologie w rękach Rosjan? Media: to wina Francji
Bohater mema zebrał już tysiące dolarów. Fortuna trafi na szczytny cel
Bohater mema zebrał już tysiące dolarów. Fortuna trafi na szczytny cel
Dwa wypadki lotnicze w ciągu 30 minut. Czarna seria Amerykanów
Dwa wypadki lotnicze w ciągu 30 minut. Czarna seria Amerykanów
Fascynujące odkrycie za Saturnem. Chiron też będzie miał pierścienie
Fascynujące odkrycie za Saturnem. Chiron też będzie miał pierścienie
Zestrzelony w Ukrainie. Rosjanie stracili cenną maszynę z załogą
Zestrzelony w Ukrainie. Rosjanie stracili cenną maszynę z załogą
Chiński satelita sfotografowany z orbity. Wkrótce potem zakończył misję
Chiński satelita sfotografowany z orbity. Wkrótce potem zakończył misję
W Indiach zasiano chmury, by pozbyć się smogu. Deszcz ma spaść wkrótce
W Indiach zasiano chmury, by pozbyć się smogu. Deszcz ma spaść wkrótce
Gigantyczny krater odkryty w Chinach. To było potężne uderzenie
Gigantyczny krater odkryty w Chinach. To było potężne uderzenie
"Cenniejsze niż złoto". MON robi duży krok, by je pozyskać
"Cenniejsze niż złoto". MON robi duży krok, by je pozyskać
Unikalny układ planetarny. Takiego jeszcze nie widzieliśmy
Unikalny układ planetarny. Takiego jeszcze nie widzieliśmy