Microsoft oskarżony o rasistowski algorytm. Technologia nie potrafi odróżnić rasy mieszanej

Microsoft postanowił niedawno zwolnić redaktorów pracujących w agregatorze wiadomości MSN. Uznał, że tę pracę z powodzeniem mogą wykonywać systemy sztucznej inteligencji. I się przeliczył, bo algorytmy "zachowują się"... jakby miały rasistowskie zapędy.

Wcześniejsza decyzja Microsoftu odbiła się szerokim echem, a w MSN pozostała jedynie garstka redaktorów. Większość pracy wykonuje teraz sztuczna inteligencja. Jak się jednak okazuje, algorytmy nie są samowystarczalne. I również popełniają błędy. Być może gorsze niż te, które przydarzają się ludziom, bo później nie mogą zrozumieć własnej pomyłki.

Niedawno w agregatorze wiadomości MSN pojawił się news o tym, jak jedna z członkiń zespołu Little Mix opowiadała o rasizmie w jej życiu.

"Wirtualny redaktor" opatrzył ten wpis zdjęciem niewłaściwej piosenkarki z zespołu. Zamiast Jade Thirlwall pojawiła się tam fotografia Leigh-Anne Pinnock. Nie byłoby w tym nic dziwnego, gdyby nie fakt, że z racji swojego multikulturowego pochodzenia, ich wygląd, a co za tym idzie karnacja skóry jest całkiem odmienna.

Thirlwall ma korzenie egipsko-jemeńskie, natomiast Pinnock jest pochodzenia jamajsko-barbadyjskiego. Piosenkarki już grzmiały na Instagramie, czując się niezwykle urażone tą pomyłką. Myślały jednak, że błąd popełnił człowiek.

Sprawą zajął się brytyjski Guardian, który podniósł kwestię tego, że skoro algorytm nie potrafił odróżnić dwóch różnych osób rasy mieszanej, to znaczy, że wytrenowano go przez osoby z uprzedzeniami lub błędami poznawczymi.

Co ciekawe, jak ustalił wcześniej Guardian, Microsoft przed faktem poinformował pracowników MSN o tym, że w dzienniku pojawi się negatywny artykuł o firmie, krytykujący rzekomo "rasistowski algorytm", który wkrótce ich zastąpi.

Co więcej, firma z Redmond miała poinstruować pozostałą garstkę pracowników działu MSN o tym, aby wyczekiwać momentu pojawienia się krytycznego artykułu i usunąć go ręcznie z agregatora. Microsoft ostrzegł ich także, że algorytm może samoczynnie spróbować opublikować ten wpis ponownie.

Ze śledztwa gazety wynika również, że Microsoft obawia się utraty reputacji swojego produktu. – Kiedy trwają teraz anty-rasistowskie protesty, nie jest to najodpowiedniejszy czas na to, by móc sobie pozwolić na błędy – miał powiedzieć jeden z pracowników firmy.

Microsoft odnosząc się wobec całej sytuacji dla Guardiana wyjawił, że gdy pracownicy firmy zauważyli błąd, od razu zamienili zdjęcie na właściwe. Komunikat firmy nie poruszał natomiast kwestii tego, czy Microsoft zamierza wyeliminować błędy poznawcze i domniemany rasizm z algorytmów.