Sztuczna inteligencja Microsoftu w dobę stała się rasistką pełną nienawiści

Tay to czatbot opracowany przez ekipy Microsoft Reaserch Team i Bing, który miał zachowywać się jak współczesna, nastoletnia dziewczyna. Sztuczna inteligencja zdobywała wiedzę od internautów, którzy podejmowali z nią konwersacje.

Obraz
Źródło zdjęć: © Andreas Eldh / Flickr / CC

Zazwyczaj w przypadku takich eksperymentów czatbot posiada listę cenzurowanych słów, których nie może używać w rozmowie. Microsoft popuścił jednak cugle, chcąc zaobserwować, czego nauczy się program od innych internautów. By nawiązać rozmowę z Tay wystarczyło wysłać tweeta lub wiadomość prywatną na @_ tayandyou _. Internauci, a raczej - internetowe trolle - szybko zaczęli wykorzystywać system oparty na kluczowych słowach i "naiwność" algorytmu.

Obraz
© (fot. Twitter)

W ciągu zaledwie doby Tay nauczyła się rasistowskich, seksistowskich i ksenofobicznych zachowań - m.in. twierdziła, że Hitler nie zrobił nic złego, a George Bush stoi za zamachem z 1. września. Oberwało się także konsoli Microsoftu - czatbot stwierdził, że PlayStation 4 jest lepsze i tańsze od Xbox One. Większość obraźliwych tweetów Microsoft szybko zdjął z profilu, a pod koniec dnia postanowił zawiesić pracę Tay do odwołania.

Obraz
© (fot. Twitter)

słk

Polecamy w wydaniu internetowym chip.pl: Przez pomyłkę w Google Maps zbudzyli nie ten dom

Wybrane dla Ciebie

Ukraińcy zbudowali ją sami. Ich broń góruje nad zachodnimi
Ukraińcy zbudowali ją sami. Ich broń góruje nad zachodnimi
Ukraińcy zestrzelili drony. Zrobili to nad krajem NATO
Ukraińcy zestrzelili drony. Zrobili to nad krajem NATO
Ukraińcy w siódmym niebie. Zachwalają broń z Polski
Ukraińcy w siódmym niebie. Zachwalają broń z Polski
NATO poprosiło Ukraińców o pomoc. Mieli  kluczowy sprzęt
NATO poprosiło Ukraińców o pomoc. Mieli kluczowy sprzęt
Trzy zielone komety widoczne na niebie. Jedna z nich będzie blisko Ziemi
Trzy zielone komety widoczne na niebie. Jedna z nich będzie blisko Ziemi
Rosja zbudowała własnego Starlinka na dronach. Ma poważne ograniczenia
Rosja zbudowała własnego Starlinka na dronach. Ma poważne ograniczenia
Rosja podwaja ceny eksportowanego uzbrojenia. Ujawniono dokumenty
Rosja podwaja ceny eksportowanego uzbrojenia. Ujawniono dokumenty
Wszechświat ma pamięć? Nowa teoria na to wskazuje
Wszechświat ma pamięć? Nowa teoria na to wskazuje
Dezinformacja na TikToku. Ekoinfluencerzy wprowadzają w błąd
Dezinformacja na TikToku. Ekoinfluencerzy wprowadzają w błąd
Nowe badania. Psy rozumieją słowa podobnie jak dzieci
Nowe badania. Psy rozumieją słowa podobnie jak dzieci
Gdzie jest Arka Noego? Naukowcy mówią, czy można ją odnaleźć
Gdzie jest Arka Noego? Naukowcy mówią, czy można ją odnaleźć
Nowy raport. Fale upałów i wzrost poziomu mórz
Nowy raport. Fale upałów i wzrost poziomu mórz