AI nie odzyskuje detali, tylko je zmyśla. NASK: Zniekształciła zdjęcia z Krakowa
Po strzelaninie w Krakowie w sieci pojawiły się zdjęcia i kadry z nagrań „wyostrzone” przez AI, która zamiast odtwarzać szczegóły, może je wymyślać.
Jak wyjaśnił NASK, z materiałów o niskiej rozdzielczości, silnej kompresji czy rozmytych fragmentach nie da się odzyskać szczegółów, których nie zarejestrowano na oryginalnym obrazie. Generatywne systemy AI mogą jedynie oszacować, jakie szczegóły mogły znajdować się w danym miejscu, uzupełniając obraz elementami wyglądającymi wiarygodnie, takimi jak litery, kontury, tekstury czy fragmenty tła.
Fałszywe szczegóły
Instytut podkreślił, że w przypadku strzelaniny w Krakowie problem nie ogranicza się do kwestii estetycznych. Wygenerowany przez AI znak na ubraniu sprawcy czy nieistniejący w rzeczywistości emblemat mogą stać się podstawą kolejnych spekulacji. NASK zwrócił uwagę, że efekt wyostrzania zdjęć przez AI może zależeć od sugestii użytkownika.
Na efekt wpływają także dane, na których trenowano dany model AI. Jako przykład NASK wskazał szeroki rzep na rękawie, pojawiający się na wielu przerobionych zdjęciach sprawcy. Choć element ten nie był widoczny w oryginale, model mógł go dodać, ponieważ podczas treningu analizował zdjęcia kurtek wojskowych, na których często występują podobne rzepy.
Miliony wyświetleń
Podobne rozbieżności dotyczyły naszywek i symboli na mundurze sprawcy. Choć na oryginalnych zdjęciach widoczne były rozmazane emblematy, nie można było jednoznacznie ustalić, co przedstawiały. Jedna z grafik, na której AI „wyostrzyła” symbole na odzieży napastnika, uzyskała ponad milion wyświetleń w mediach społecznościowych. Wygenerowane naszywki nie odpowiadały jednak rzeczywistym, różniąc się m.in. kształtem.
Powiązane
