Cyfrowy kult zbrodniarza i fabryka kłamstw. Jak zamach w Krakowie podpalił sieć

Zaledwie kilka godzin po ataku w Krakowie algorytmy TikToka zaczęły podsuwać użytkownikom niepokojące treści, w których centrum uwagi znalazł się sprawca zbrodni Michał O. Wokół niego natychmiast uaktywniła się internetowa społeczność TCC (True Crime Community), której skrajne skrzydło stanowi toksyczną subkulturę gloryfikującą sprawców masowych morderstw. Choć nazwa ta z pozoru odsyła do osób pasjonujących się kryminalistyką, jej radykalizowana część kreuje morderców na idole, wykorzystując syntetyczne lektory, cyniczny slang i pastelowe filtry.

Mechanizm ten opiera się na tzw. editach – dynamicznie zmontowanych, estetycznych klipach wideo z podkładem muzycznym, w których zamachowcy są przedstawiani przez filtry niemal jak popkulturowe ikony. Po krakowskim zamachu w serwisach wideo zaczęły krążyć wygenerowane przez sztuczną inteligencję montaże z wizerunkiem Michała O., opatrzone symbolami czaszek, liczbą „-5” oraz hashtagiem #rampage. To groźna powtórka schematu, który widzieliśmy 8 października w Leszczydole-Nowinach, gdzie 15-latek zamordował woźną.

Nastolatek był pod wpływem ideologii TCC, miał interesować się Pekką-Erikiem Auvinenem z Jokeli, Władysławem Roslakowem z Kerczu czy Brentonem Tarrantem z Christchurch. To masowi mordercy, sprawcy głośnych zamachów w szkołach i obiektach kultu religijnego. Nastolatek posiadał hełm z kamerą i zamieszczał cytaty w rodzaju „The urge won”.

Choć problem dotyczy wielu mediów społecznościowych, a właściwie całego internetu (jednym z głównych miejsc kultu TCC jest platforma gier wideo Roblox), to właśnie z takich miejsc użytkownicy są przyciągani na zewnętrzne, szyfrowane platformy – w tym np. Telegram oraz Signal, gdzie z pozoru cyniczne żarty przeradzają się w kult zbrodni i potencjalne inspiracje do kolejnych ataków. Skala zjawiska jest dramatyczna: Institute for Strategic Dialogue wiąże subkulturę TCC z co najmniej dziewięcioma zamachami i szesnastoma udaremnionymi planami od początku 2024 r., a organizacja ADL odnotowała tylko do połowy br. co najmniej 28 powiązanych z nią aktów przemocy, w tym 19 śmiertelnych.

200 mln odsłon kłamstwa

Akt terrorystyczny w Krakowie pokazał, że współczesna tragedia natychmiast staje się w sieci paliwem dla radykalizacji, ale też elementem wojny hybrydowej. Równolegle z fetyszyzacją zabójcy w przestrzeni cyfrowej eksplodowała masa fake newsów, która wymusiła nadzwyczajne działania państwa. Ministerstwo Cyfryzacji wraz z Ośrodkiem Analizy Dezinformacji NASK przeszło w tryb kryzysowy, uruchamiając operację w formacie „War Room” we współpracy z centrum antyterrorystycznym ABW.

Jak poinformował wicepremier i minister cyfryzacji Krzysztof Gawkowski, analitycy zgłosili do moderacji platform społecznościowych ponad 2000 kont. Wśród nich znalazły się wielojęzyczne farmy zautomatyzowanych botów publikujące po polsku, angielsku, francusku czy niderlandzku, a także kilkadziesiąt profili bezpośrednio powiązanych z Rosją lub posługujących się cyrylicą. W sobotę wieczorem skumulowane zasięgi najpopularniejszych kłamstw przekroczyły 200 mln wyświetleń.

Fabryki fałszu testowały całe spektrum narracji: od teorii, że zamach zaplanował polski rząd wspólnie z Unią Europejską, przez wersję o prowokacji mającej uzasadnić odwołanie Marszu Niepodległości (5,6 mln zasięgu) i plotki o sprawcu-żołnierzu (blisko 18 mln zasięgu), aż po powiązanie strzelaniny z protestami pod Trybunałem Konstytucyjnym. Próbowano również wmawiać opinii publicznej ukraińskie pochodzenie zamachowca, a gdy to zdementowano – zrobić z niego najemnika walczącego dla Kijowa. Kiedy oficjalne komunikaty służb wygaszały kolejne manipulacje, w niedzielę pojawiły się absurdalne twierdzenia o „zamachu zainscenizowanym przez statystów”.

Rola sztucznej inteligencji

Swoją rolę odegrały narzędzia generatywnej sztucznej inteligencji. Jeden z radnych dzielnicy Dąbrowa w Gdyni miał kolportować spreparowane zdjęcia łączące ministra Marcina Kierwińskiego z krakowskim zamachowcem. Na niebezpieczeństwo modyfikowanych przez AI zdjęć z miejsca tragedii zwracał uwagę resort cyfryzacji, a w oficjalnym stanowisku organizacja fact-checkingowa Demagog przypomniała, że odpowiedzialność za manipulację nie znika tylko dlatego, że obraz wygenerowało AI.

Owa odpowiedzialność spoczywa na twórcach, osobach rozpowszechniających te treści, ale również samych platformach internetowych. Eksperci zwracają uwagę, że dopóki Big Techy nie wezmą odpowiedzialności za algorytmy promujące morderców oraz fake newsy, i nie uszczelnią moderacji, dopóty kult zbrodni i dezinformacja będą zatruwać cyfrową przestrzeń.