Jak gigant steruje światem. Ciemna strona potęgi Facebooka

Tej książki chciał zakazać Mark Zuckerberg. Sarah Wynn-Williams, wysoko postawiona pracownica Facebooka (Meta), opisuje w "Bezwzględnych" swoją karierę w firmie: od idealistycznych ambicji zmieniania świata po rozczarowanie kulturą korporacyjną i decyzjami kierownictwa. Krytykuje korporację za mobbing, chaotyczne kierownictwo oraz politykę, która jej zdaniem sprzyjała dezinformacji, wykorzystywaniu danych użytkowników i przyczynianiu się do przemocy i ludobójstwa w skali globalnej. Książka przedstawia także kulisy największych kontrowersji związanych z Facebookiem, jak wpływ na wybory prezydenckie w USA czy politykę wobec Chin i narzędzia cenzury.

"Facebook powstał po to, by realizować misję społeczną - uczynić świat bardziej otwartym i połączonym" - głosiła jedna z zasad Facebooka zapisana w specjalnej instrukcji dla pracowników (autorka nazywa ją "Czerwoną Książeczką", na wzór tej z cytatami chińskiego dyktatora Mao).

Jacek Mańko, badacz i wykładowca technologii i społeczeństwa cyfrowego z Akademii Leona Koźmińskiego w Warszawie, przypomina, że część tej instrukcji dla pracowników Facebooka, autorstwa Marka Zuckerberga, jest już w sieci. Jego zdaniem, ta "Czerwona Książeczka" to w większości zbiór tanich, motywacyjnych i nieprzemyślanych cytatów. Jak zestarzała się dziś ta maksyma o realizowaniu misji społecznej?

- Na Facebooku mówi się o trzech miliardach w miarę aktywnych kont miesięcznie. Obok botów, takich ludzkich kont jest nadal bardzo dużo, więc na pewno świat stał się bardziej połączony - zauważa ekspert. Jednak jego zdaniem, nie idzie to w parze z deklarowanym przez Facebooka światem otwartym.

Uważa, że platformy społecznościowe miały łączyć ludzi, tymczasem mogą wzmacniać poczucie osamotnienia pośród ludzi, bo świat stał się bardziej zamknięty. - Potwierdzeniem tej społecznej izolacji są bańki informacyjne, w których na co dzień funkcjonujemy – dodaje Mańko.

"Informacja to potęga" - pisze autorka na początku swojej książki, gdy zaczyna dostrzegać potencjał w Facebooku, jeszcze nieświadoma dalszego biegu wydarzeń. Jak posiadane przez Facebooka informacje wpłynęły na globalną politykę i demokrację? - pytam.

Potwierdza to sama autorka, która w "Bezwzględnych" pisze o strategii Facebooka: "Po prostu prowadzimy stronę internetową, która łączy ludzi. [...] Chcemy, żeby Facebook przynosił zyski i się rozwijał. O czym tu jeszcze można mówić? [...] Jesteśmy menadżerami, a nie budowniczymi nowego świata".

Choć brzmi niewinnie wcale tak nie było. - Facebook był wykorzystywany przez rozmaite rządy i nie tylko, natomiast działo się to przy często kompletnej nieświadomości zarządu firmy - uważa ekspert. Jego zdaniem, Facebook stał się narzędziem napędzanym naiwnością i chęcią zysku.

- Historia Facebooka, przynajmniej te ostatnie 15 lat, to jedno wielkie pasmo kryzysów i rozmaitych kontrowersji politycznych. Chyba nie ma kraju, który w jakiś sposób nie byłby bardziej lub mniej dotknięty zalewem dezinformacji - przyznał.

Jako przykład przytacza wydarzenia z 2016 r., gdy Mark Zuckerberg w ogóle nie chciał przyjąć do wiadomości, że Facebook miał jakiś udział w pierwszym wyborze Donalda Trumpa na prezydenta USA. Potwierdza to nie tylko autorka książki, ale także inne źródła.

Sarah Wynn-Williams wspomina również o niepokojącej roli Facebooka, jako "piątej władzy" - kluczowym elemencie wizji Marka Zuckerberga, dotyczącej przyszłości mediów i wpływie platformy na społeczeństwo. Jego wizja zakładała, że miałoby to być miejsce wymiany informacji pozbawione tradycyjnych "strażników" (redaktorów), z Facebookiem w samym centrum tego ekosystemu. Realizacja oznaczałaby, że CEO Facebooka kontrolowałby nie tylko algorytm dystrybuujący treści, ale także sam proces ich powstawania oraz sposób ich docierania do miliardów ludzi. Dałoby mu to niemal nieograniczony wpływ na debatę publiczną.

Zuckerberg postrzegał tradycyjne media (tzw. "czwartą władzę") jako "branżę skazaną na upadek" i rozważał, jak Facebook może ją zdominować lub zastąpić. Wizja ta, jak relacjonuje autorka, wywołała milczenie i niepokój wśród współpracowników, ponieważ oznaczałaby skupienie w rękach jednej osoby potęgi większej niż ta, którą dysponują współczesne narody czy tradycyjne struktury medialne. Wynn-Williams pisze także, że dążenie do bycia "cyfrową piątą władzą" uczyniło z Facebooka maszynę do monetyzacji podziałów i manipulacji, zamiast obiecywanego narzędzia budowania wspólnoty.

Czy koncepcja "piątej władzy" kontrolowanej przez algorytm bez żadnego nadzoru nie jest dziś największym zagrożeniem dla stabilności państw demokratycznych? - pytam.

- Demokracja ma mnóstwo różnych zagrożeń, także ekonomicznych, społecznych, militarnych i tak dalej. To po części jest w jakimś stopniu niezależne od rozwoju technologii. Natomiast na pewno jakieś zagrożenie jest. Jest taka znana łacińska maksyma: "Kto upilnuje samych strażników?". W Facebooku nie chcieli nazywać się strażnikami, mimo że właśnie używali tego określenia - "piąta władza". W ich założeniu społeczności miały same sobą kierować, czy swoim dostępem do informacji – odpowiada ekspert.

Jak jest faktycznie? Mańko tłumaczy, że w praktyce to algorytm decyduje o tym, jakie informacje czy tytuły medialne nam się wyświetlają. Jako przykład podaje jeden z głośnych sporów z Australią, w którym Facebook nie chciał linkować do zewnętrznych, australijskich mediów.

- Algorytm bez nadzoru jest fikcją, bo ten nadzór zawsze jakiś jest. Przede wszystkim Facebookowi chodzi tylko o to, żeby rosnąć i zwiększać swoje wpływy, głównie finansowe - odpowiada ekspert.

Przypomina też, że medium jako słowo samo w sobie oznacza pośrednika. W tym kontekście Facebook zawsze był pośrednikiem decydującym o tym, jakie treści będą się wyświetlały, co jest już pewnego rodzaju władzą, ale na pewno nie bez nadzoru. Sam w sobie algorytm – jego zdaniem – jest pewnego rodzaju cenzurą i zagrożeniem dla jakości debaty publicznej czy informowania społeczeństwa.

Autorka opisuje, że Facebook oferował reklamodawcom możliwość targetowania nastolatków w momentach ich szczególnej podatności emocjonalnej, np. gdy czuli się "bezwartościowi" lub "przegrani". Pisze też o kampaniach reklamowych śledzących momenty, w których nastolatki usuwają swoje selfie, by natychmiast wyświetlić im reklamy kosmetyków.

Sprawa wydaje się być niezwykle aktualna, bo szef Meta Platforms Mark Zuckerberg, stanął 19 lutego przed sądem w Los Angeles, w głośnym procesie o rzekome uzależniające projektowanie Instagrama dla dzieci w sposób uzależniający dzieci i młodzież. 19-letnia powódka twierdzi, że jako dziecko doznała poważnych problemów psychicznych, a wyrok może wpłynąć na tysiące podobnych pozwów przeciw gigantom mediów społecznościowych. To pierwszy taki proces w USA, a sprawa może mieć kluczowe znaczenie dla przyszłości wszystkich platform społecznościowych.

Czy można mówić tu o przekroczeniu etycznych granic w pogoni za "maksymalizacją zaangażowania", czy dzisiejszy algorytm potrafi jeszcze precyzyjniej monetyzować nasze kompleksy? - pytam.

- Kierownictwo Facebooka było, i uważam w dużej mierze dalej jest, pod tym względem bezmyślne, a jednocześnie trochę aroganckie i ignoranckie. Oni sobie kompletnie z tego nie zdawali sprawy, jakby nie było to dla nich nigdy żadnym problemem to, że jednak ten negatywny wpływ na psychikę, co z resztą podkreślają liczne badania, po prostu jest – odpowiada Jacek Mańko.

Książka Wynn-Williams wywołała wiele kontrowersji z powodu ujawnienia niewygodnych i bardzo niepokojących faktów, np. współpracy Facebooka z Chinami. Gigant złożył chińskiemu rządowi "propozycję wartości", obiecując wsparcie w promowaniu "uporządkowanego porządku społecznego" poprzez nadzór oparty na prawdziwych tożsamościach użytkowników. Czy technologie rozpoznawania twarzy i narzędzia cenzorskie (projekt "Aldrin") stworzone dla Chin nie stały się matrycą dla systemów inwigilacji stosowanych obecnie przez inne autorytarne rządy? - pytam.

- Trudno mi powiedzieć. Wcale nie jest tak łatwo z perspektywy autorytarnego rządu, by rozwinąć tak technologicznie zaawansowane mechanizmy inwigilacji, jak powiedzmy robią to Chiny, ale umówmy się, po części też USA, co szczególnie widać choćby w działaniach takiej firmy jak Palantir. Inne autorytarne rządy stosują raczej niewyrafinowane metody: blokują platformy lub zbierają informacje "kto, gdzie, co pisze". Mogą też podsłuchiwać na zasadzie takiego białego wywiadu, czyli np. czytać komentarze ludzi, co dzieje się też np. w Rosji - odpowiada Jacek Mańko.

Jego zdaniem, w sprawie z Chinami bulwersuje to, że Facebook robił to zakulisowo i wbrew szeroko rozumianej polityce własnego amerykańskiego kraju. W zeszłorocznym przesłuchaniu w kwietniu przed Kongresem, już po ukazaniu się tej książki w USA, Wynn-Williams mówiła wprost, że Facebook chętnie współpracował z Chinami i okłamywał swój własny kraj poprzez udostępnianie infrastruktury i całego technicznego know-how. Mańko przypomina, że Chiny mogły to wykorzystać. Całej sprawie towarzyszyły bardzo nieprzejrzyste negocjacje, w wyniku których Facebook uruchamiał po cichu w Chinach uproszczone aplikacje.

- Chiny to gigantyczny rynek. Setki milionów nowych, potencjalnych użytkowników. Myślę, że w tym sensie w Facebooku nie zdawali sobie sprawy, że są rozgrywani albo zdawali, ale i tak po prostu chcieli za wszelką cenę tam wejść. To na pewno sprawa, którą trzeba wyjaśnić, stąd to przesłuchanie w Kongresie - mówi ekspert.

Samo rozpoznawanie twarzy, choć kontrowersyjne, na razie nie jest jeszcze najskuteczniejsze, a wprowadzenie tego na masową skalę na szczęście blokuje w Unii Europejskiej AI Act - przypomina Mańko. Jak dodaje, Meta chce wypuszczać nowy model smart glasses, czyli okularów z funkcją rozpoznawania twarzy i podłączonym asystentem AI. - To rodzi gigantyczne zagrożenie dla bezpieczeństwa czy prywatności, także zobaczymy, jak to się rozwinie - podkreśla.

"The New York Times (NYT)" podał, że funkcja rozpoznawania twarzy ma się pojawić w okularach Meta Ray-Ban jeszcze w tym roku. W praktyce oznacza to, że nie będzie już można przejść anonimowo po ulicy. Gdy posiadacz takich okularów skieruje na nas wzrok automatycznie będzie mógł dowiedzieć się, kim jesteśmy oraz co zamieszczamy w sieci publicznie.

Niepokojącym wątkiem poruszanym przez "NYT" jest też czas, w którym Meta chce je wprowadzić. Jak wynika z informacji pozyskanych przez gazetę z wewnętrznych dokumentów firmy, gigant planuje świadomie wykorzystać czas niepokojów politycznych i społecznych w USA, na których skupia się uwaga aktywistów i niepostrzeżenie udostępnić niedługo nową funkcję.

W oświadczeniu przesłanym do "NYT" Meta twierdzi, że "buduje produkty, które pomagają milionom ludzi połączyć się i wzbogacić ich życie". "Chociaż często słyszymy o zainteresowaniu tego typu funkcjami, nadal zastanawiamy się nad opcjami i przyjmiemy przemyślane podejście, zanim cokolwiek wprowadzimy" - przekazała firma dziennikowi.

- Widać, że te ich cytaty [z "Czerwonej Książeczki" Facebooka - red.] jeszcze się nie zestarzały - skomentował krótko Jacek Mańko z Akademii Koźmińskiego. Uspokoił, że obecny porządek legislacyjny (na poziomie polskim mamy RODO, a na europejskim AI Act) - nie pozwala na masową inwigilacje.

- To, czego ja bym się obawiał, to to, że przypominające tego typu urządzenie będzie można zrobić samodzielnie, korzystając z komponentów, modeli i narzędzi ogólnodostępnych. Co z automatu skierowałoby ich w drugi, nielegalny obieg. Miejmy nadzieję, że w takim wypadku nie będą cieszyły się dużą popularnością - mówi ekspert.

Sarah Wynn-Williams opisuje też szeroko wątek Facebooka w kontekście kontrolowanej przez wojskową juntę Mjanmy. Konsekwencje są tragiczne: brak moderatorów i ignorowanie ostrzeżeń o mowie nienawiści doprowadziło do ludobójstwa, co ONZ nazwało "krytyczną rolą" platformy. Czy po tragedii w Mjanmie firma rzeczywiście zmieniła priorytety, czy też wzrost za wszelką cenę pozostaje niezmiennym DNA firmy?

- Jeżeli wypuszczają takie okulary, które też opatrują tym swoim sloganem sprzed 15 lat, to wydaje mi się, że ta firma nie ma kontroli nad swoimi procesami, decyzjami lub kierunkiem działania. Oni nie mogą nagle kompletnie zmienić swojej mentalności, bo na tym się po prostu zbudowali. To już niejako wrosło w ich DNA - tłumaczy Mańko.

Wydarzenia w Mjanmie miały miejsce w sierpniu 2017 r. Jak dodaje ekspert, patrząc z perspektywy kilku lat, na to, co się stało, kiedy rola Facebooka w eskalacji przemocy i ludobójstwie Rohingya została obnażona - sprawa nadal jest w toku.

- Facebook oficjalnie przyznał, że popełnił błędy w moderacji w kontekście Rohingya i pod gigantyczną presją wprowadził tu i ówdzie większą moderację. Junta w Mjanmie i tak sama zamknęła Facebooka, więc jest też w tym jakaś ironia - mówi ekspert. Gigant nie poniósł praktycznie żadnej odpowiedzialności - nadal trwają pozwy i skargi prawne, ale brakuje jeszcze ostatecznych wyroków lub dużych odszkodowań.

- Sam model działania dalej się na tym opiera i w zasadzie, gdy widzą, że ciężko jest rosnąć pod względem liczby nowych użytkowników, to trzeba wymyślać nowe produkty. Stąd uciekanie w inne pomysły: z rozwijaniem Metaverse, co oczywiście jest jedną wielką porażką biznesową, czy rozwijanie rozmaitych asystentów AI. Jest jeszcze ten pomysł z okularami – wylicza Jacek Mańko.

Jego zdaniem Facebook dalej będzie robił takie ucieczki, natomiast koniec końców nic takiego krytycznego w firmie się nie zmieniło.

Zdaniem badacza, autorka może czuć pewnego rodzaju wyrzuty sumienia, z racji tego, że jednocześnie zachowała się jak sygnalistka, ale przez wiele lat współtworzyła Facebooka, pracowała w tej firmie i może czuć się współwinna, bo wiele tych kontrowersyjnych spraw wydarzyło się "podczas jej zmiany".

Ekspert uważa, że to, co jest bardzo odkrywczego w tej książce to to, że nigdy wcześniej opinia publiczna nie usłyszała pierwszoosobowej relacji o nieprawidłowościach w Facebooku od tak wysoko postawionej osoby, która faktycznie miała dostęp do Marka Zuckerberga czy Sheryl Sandberg.

- Książka pokazuje nieporadność całej kadry zarządzającej Facebookiem i zarazem taką technologiczną arogancję. Jest w tym też groteskowa warstwa, która właśnie uwypukla tytułową bezmyślność (z ang.) i unaocznia, że oni naprawdę kompletnie nie mieli pojęcia o swoim wpływie na świat - podsumowuje Jacek Mańko.

Po publikacji w marcu 2025 r. "Careless People" natychmiast wywołała szeroką debatę medialną. Trafiła wysoko na listy bestsellerów, mimo że Meta (Facebook) podjęła agresywne działania prawne przeciwko Wynn-Williams. Firma argumentowała, że autorka złamała umowę o zakazie dyskredytowania pracodawcy po odejściu z firmy. Meta określiła zarzuty jako "fałszywe i zniesławiające" i podkreślała, że Wynn-Williams została zwolniona z powodu niskiej wydajności i "toksycznego zachowania". Wydawca, Flatiron Books (Macmillan), bronił książki i krytykował działania Meta jako próbę cenzury.