Prawda umiera na naszych oczach. Jak odróżnić AI od rzeczywistości?

"AI homeless man prank" to internetowy trend, który w ostatnich dniach podbija media społecznościowe. Użytkownicy wykorzystują sztuczną inteligencję do generowania ultrarealistycznych materiałów przedstawiających nieistniejących bezdomnych mężczyzn w istniejących lokacjach. Takie zdjęcia i filmy wysyłane są następnie do bliskich w celu uwiecznienia ich reakcji, ku uciesze internautów.

"Ten żart dehumanizuje bezdomnych, wywołuje panikę u zdenerwowanego odbiorcy i marnuje zasoby policji. Wezwani do interwencji policjanci nie wiedzą, że to żart i traktują zgłoszenie jako rzeczywiste włamanie, co stwarza potencjalnie niebezpieczną sytuację" - czytamy w komunikacie wydanym przez wydział policji w Salem, który przypomina, że za wezwanie służb porządkowych do nieistniejącego zdarzenia grożą dotkliwe kary. Podobne komunikaty pojawiły się m.in. na stronach policji w Oak Harbor czy irlandzkiej Garda Síochána.

W 2023 roku hitem internetu stało się wygenerowane z użyciem sztucznej inteligencji wideo przedstawiające Willa Smitha jedzącego spaghetti. Na tym etapie nikt nie miał wątpliwości, że film nie jest prawdziwy, ale internautów zachwyciła sama możliwość przekucia swoich pomysłów w gotowe wideo za pomocą jednego polecenia tekstowego.

Kilkanaście miesięcy później firma OpenAI, odpowiedzialna m.in. za ChataGPT, zaprezentowała własny generator wideo o nazwie Sora, który miał zrewolucjonizować branżę filmową. Jednak jeszcze w marcu 2025, gdy przeprowadziliśmy redakcyjny test tego narzędzia, Sora poległa na prostej scenie z krojeniem pomidora.

A tak zaledwie siedem miesięcy później z tym samym poleceniem poradził sobie wydany w październiku model Sora 2:

Postęp widać gołym okiem, a nie jest to nawet jedyny generator wideo tego typu, bo Sora 2 walczy o uwagę internautów z takimi narzędziami jak Veo 3 Google’a czy Grok Imagine firmy xAI Elona Muska. Każde z tych narzędzi potrafi generować realistycznie wyglądające filmy z dźwiękiem za darmo lub niewielką opłatą.

Wystarczyły dwa lata, byśmy przeszli od zdeformowanych postaci do filmów, które ciężko odróżnić od rzeczywistości. Nie dziwi więc, że w ostatnich tygodniach takie platformy jak TikTok, YouTube czy Instagram są zalewane filmami przedstawiającymi sytuacje, które nigdy się nie wydarzyły.

Aby zapobiec sianiu dezinformacji, firma OpenAI postanowiła nałożyć na każde wygenerowane wideo pływający znak wodny. Tyle teorii, ale gorzej z praktyką. Mnie obejście tego ograniczenia i wygenerowanie z użyciem Sory 2 filmu bez znaku wodnego zajęło dwie minuty.

Realnie ocena autentyczności materiału musi się więc sprowadzać do analizy samej treści, a to z dnia na dzień staje się coraz trudniejsze z uwagi na rosnący poziom zaawansowania modeli AI. O sposoby na odróżnienie fałszywych filmów i zdjęć od prawdziwych zapytałem ekspertkę.

"Niestety aktualne modele i generatory tworzą coraz lepsze obrazy, filmy i dźwięki, które są coraz trudniejsze do wykrycia gołym okiem. Zawsze rekomendujemy, aby zatrzymać się i spojrzeć krytycznie na dane treści. Szukamy typowych artefaktów dla deepfake’ów - nienaturalnych dłoni czy proporcji, rozmazanego tła, błędnie napisanego tekstu, ale niestety coraz rzadziej to wystarcza" - mówi mi Kinga Klich, szefowa działu przeciwdziałania dezinformacji w organizacji Demagog.

Od mojej rozmówczyni dowiedziałem się, że Demagog korzysta ze wsparcia narzędzia Hive AI Detection, które powstało z myślą o wykrywaniu treści generowanych przez sztuczną inteligencję, ale nawet tego typu aplikacje nie są dziś wystarczające. "Rozwój generatywnej sztucznej inteligencji jest tak szybki, że detektory nie nadążają za generatorami" - uważa Klich. "Jedyną skuteczność daje nam w tym momencie łączenie różnych metod – krytyczna analiza oraz wsparcie różnego rodzaju aplikacji rozpoznających AI" - dodaje.

Kinga Klich uważa, że generatywna sztuczna inteligencja wykorzystywana jest dziś głównie w celach rozrywkowych, ale niestety nie tylko, bo tego typu narzędzia są spełnieniem marzeń oszustów. "Na naszym portalu demagog.org.pl średnio parę razy w miesiącu publikujemy analizy pokazujące, jak wykorzystano sztuczną inteligencję do stworzenia filmów czy zdjęć, zazwyczaj mających wyłudzić dane lub pieniądze od użytkowników" - mówi moja rozmówczyni.

Generatory filmów AI coraz częściej wykorzystywane są także do siania niepokoju, podważania zaufania do instytucji demokratycznych oraz polaryzowania społeczeństwa. W marcu 2022 roku, wkrótce po inwazji Rosji na Ukrainę, do sieci trafiło fałszywe wideo rzekomo przedstawiające prezydenta Wołodymyra Zełenskiego wzywającego Ukraińców do kapitulacji. Był to jeden z najgłośniejszych przykładów wykorzystania deepfake’a podczas konfliktu zbrojnego, ale musimy liczyć się z tym, że takich sytuacji będzie coraz więcej. Dziś jakość generowanych filmów jest nieporównywalnie wyższa niż przed trzema laty, a dostępność tego typu narzędzi większa.

Kinga Klich apeluje, by podchodzić sceptycznie do oglądanych treści zwłaszcza wtedy, gdy mamy zamiar je udostępnić je dalej. "Na nas wówczas też ciąży odpowiedzialność za udostępnienie dalej fałszywej informacji" - zauważa.