Microsoft oskarżony o rasistowski algorytm. Technologia nie potrafi odróżnić rasy mieszanej

Microsoft postanowił niedawno zwolnić redaktorów pracujących w agregatorze wiadomości MSN. Uznał, że tę pracę z powodzeniem mogą wykonywać systemy sztucznej inteligencji. I się przeliczył, bo algorytmy "zachowują się"... jakby miały rasistowskie zapędy.

Microsoft oskarżony o rasistowski algorytm. Technologia nie potrafi odróżnić rasy mieszanej
Źródło zdjęć: © Dave J Hogan, Getty Images
4

Wcześniejsza decyzja Microsoftu odbiła się szerokim echem, a w MSN pozostała jedynie garstka redaktorów. Większość pracy wykonuje teraz sztuczna inteligencja. Jak się jednak okazuje, algorytmy nie są samowystarczalne. I również popełniają błędy. Być może gorsze niż te, które przydarzają się ludziom, bo później nie mogą zrozumieć własnej pomyłki.

Niedawno w agregatorze wiadomości MSN pojawił się news o tym, jak jedna z członkiń zespołu Little Mix opowiadała o rasizmie w jej życiu.

"Wirtualny redaktor" opatrzył ten wpis zdjęciem niewłaściwej piosenkarki z zespołu. Zamiast Jade Thirlwall pojawiła się tam fotografia Leigh-Anne Pinnock. Nie byłoby w tym nic dziwnego, gdyby nie fakt, że z racji swojego multikulturowego pochodzenia, ich wygląd, a co za tym idzie karnacja skóry jest całkiem odmienna.

Obraz
© David M. Benett, Dave Benett, Getty Images for The London EDITION

Thirlwall ma korzenie egipsko-jemeńskie, natomiast Pinnock jest pochodzenia jamajsko-barbadyjskiego. Piosenkarki już grzmiały na Instagramie, czując się niezwykle urażone tą pomyłką. Myślały jednak, że błąd popełnił człowiek.

Microsoft ma na pieńku z Guardianem

Sprawą zajął się brytyjski Guardian, który podniósł kwestię tego, że skoro algorytm nie potrafił odróżnić dwóch różnych osób rasy mieszanej, to znaczy, że wytrenowano go przez osoby z uprzedzeniami lub błędami poznawczymi.

Co ciekawe, jak ustalił wcześniej Guardian, Microsoft przed faktem poinformował pracowników MSN o tym, że w dzienniku pojawi się negatywny artykuł o firmie, krytykujący rzekomo "rasistowski algorytm", który wkrótce ich zastąpi.

Co więcej, firma z Redmond miała poinstruować pozostałą garstkę pracowników działu MSN o tym, aby wyczekiwać momentu pojawienia się krytycznego artykułu i usunąć go ręcznie z agregatora. Microsoft ostrzegł ich także, że algorytm może samoczynnie spróbować opublikować ten wpis ponownie.

Ze śledztwa gazety wynika również, że Microsoft obawia się utraty reputacji swojego produktu. – Kiedy trwają teraz anty-rasistowskie protesty, nie jest to najodpowiedniejszy czas na to, by móc sobie pozwolić na błędy – miał powiedzieć jeden z pracowników firmy.

Microsoft odnosząc się wobec całej sytuacji dla Guardiana wyjawił, że gdy pracownicy firmy zauważyli błąd, od razu zamienili zdjęcie na właściwe. Komunikat firmy nie poruszał natomiast kwestii tego, czy Microsoft zamierza wyeliminować błędy poznawcze i domniemany rasizm z algorytmów.

Wybrane dla Ciebie

Zrezygnowali ze sprzętu Rosjan. Wybrali Zachód, a teraz krytykują
Zrezygnowali ze sprzętu Rosjan. Wybrali Zachód, a teraz krytykują
Był dwa razy większy. Co się stało z Jowiszem?
Był dwa razy większy. Co się stało z Jowiszem?
Nawet 500 dronów dziennie. Ukrainiec o rosyjskich atakach
Nawet 500 dronów dziennie. Ukrainiec o rosyjskich atakach
Finlandia prezentuje super pocisk. To rewolucja artyleryjska
Finlandia prezentuje super pocisk. To rewolucja artyleryjska
Problem brytyjskich lotniskowców. Bez AWACS-ów ich możliwości są ograniczone
Problem brytyjskich lotniskowców. Bez AWACS-ów ich możliwości są ograniczone
Drony za eliminację wroga. Ukraińska armia wprowadza system punktowy
Drony za eliminację wroga. Ukraińska armia wprowadza system punktowy
Dostosowują sprzęt do walk. Ekspert: utrzymanie staje się sztuką
Dostosowują sprzęt do walk. Ekspert: utrzymanie staje się sztuką
500 tys. dronów rocznie. Chcą zawstydzić całą Europę
500 tys. dronów rocznie. Chcą zawstydzić całą Europę
Dziwny trend u kapucynek z wyspy Jicarón. Z nudy porywają młode wyjce
Dziwny trend u kapucynek z wyspy Jicarón. Z nudy porywają młode wyjce
Rosja modernizuje flotę bombowców. Koszt to 316 mln dolarów
Rosja modernizuje flotę bombowców. Koszt to 316 mln dolarów
Polskie baterie Patriot. Chcemy kupić do nich setki pocisków
Polskie baterie Patriot. Chcemy kupić do nich setki pocisków
Amerykańska obecność wojskowa w Europie. Bez USA wydamy bilion dolarów
Amerykańska obecność wojskowa w Europie. Bez USA wydamy bilion dolarów