Miały wykrywać Deep Fake’i, okazały się kiepskie. Zobacz, jak łatwo oszukać algorytmy
W XXI wieku bez problemu można oszukać widza tworząc tzw. Deep Fake’i. Są to przetworzone obrazy lub filmy z podłożonymi twarzami i dźwiękiem niezgodnym z prawdą. Powstało jednak specjalne oprogramowanie do wykrywania manipulacji, jednak nie jest ono idealne, o czym świadczy ten przykład.
Wykrywacze zmanipulowanych obrazów i filmów mają ułatwić przekazywanie prawdziwych informacje i oddzielanie ich od fake newsów oraz deep fake’ów. Teoria jest piękna, lecz praktyka pozostawia wiele do życzenia. Podczas konferencji WACV 2021 naukowcy pokazali, jak łatwo można oszukać detektory.
Wspomniane oprogramowanie bazuje na algorytmach głębokiego uczenia, które ma wykrywać zmanipulowane filmy, zdjęcia i dźwięk. Jak się okazuje, wystarczy wprowadzić oszukane dane wyjściowe, by sztuczna inteligencja się pomyliła i wzięła fałsz za prawdę. Arek Stando przyrównuje to działanie w swoim tekście na portalu dobreprogramy.pl do złudzenia optycznego serwowanego algorytmom SI.
Deepfake detectors can be defeated, computer scientists show for the first time
Shehzee Hussain, doktor inżynierii komputerowej z San Diego, zwraca uwagę, że wykrywacze zmanipulowanych obrazów mogą być prawdziwym zagrożeniem. Fałszywe filmy nawet po skompresowaniu są określane jako prawdziwe po wprowadzeniu niezauważalnych manipulacji danymi. Jeśli deep fake przejdzie weryfikację, może on zostać puszczony w świat i tym samym serwować nieprawdziwe informacje jako rzetelne.
Przeważnie deep fake’i dotyczą zmian twarzy i podłożonego dźwięku tak, by fałszywe nagranie specjalnie nie różniło się od prawdziwego. Ruch ust i mimika są dopasowane do treści wypowiedzi, co dla zwykłego użytkownika będzie nie do odróżnienia. Takie materiały potrafią być bardzo przekonujące.
Fałszywe informacje są ogromnym zagrożeniem XXI wieku. O ile na obecnym etapie zdarzają się artefakty, które można wyłapać gołym okiem, tak zapewne w niedługiej przyszłości będą one rzadziej występowały. Podawanie ogółowi nieprawdziwych danych, których nijak nie da się odróżnić od tego, co prawdziwe, będzie na porządku dziennym. Dlatego tak ważne jest odnalezienie potwierdzenia jakiejś informacji przed podaniem jej dalej.