Microsoft prezentuje narzędzie do ujawniania sfałszowanych zdjęć i filmów

Video Authenticator to nowe, potężne narzędzie oparte na sztucznej inteligencji, która przeanalizuje zdjęcia i filmy pod kątem manipulacji cyfrowej. Jego celem jest rozpoznanie, czy dany materiał został sfałszowany, czy nie. Oto, jak działa.

Słowo "deepfake" odnosi się do obrazów, filmów i nagrań dźwiękowych zmanipulowanych przy użyciu sztucznej inteligencji. Większość z nich jest tak dobrze zrobiona, że przy pierwszym kontakcie trudno jakkolwiek zorientować się, że nie są prawdziwe. Często dotyczą one polityków mówiących rzeczy, których nie powiedzieli, albo sytuacji, które nigdy nie miały miejsca. Niestety media społecznościowe są pełne takich materiałów.

Firma Microsoft przedstawiła program Video Authenticator, który powstał w ramach Programu Ochrony Demokracji. Opiera się on na algorytmach sztucznej inteligencji, a jego zadaniem jest wykrycie tego, co nieprawdziwe. Video Authenticator został opracowany na podstawie wielu przeróżnych wystąpień z całego świata.

96 kampanii zostało poddanych działaniu programu. Okazało się, że zawierają one aż 93 proc. prawdziwych informacji i nagrań, co znacznie utrudniało rozpoznanie tego, co prawdziwe. Video Authenticator jest jednak tak wytrenowany, że rozpozna najmniejsze ingerencje w oryginalną treść.

Oczywiście technologia cały czas idzie do przodu, więc Video Authenticator będzie wymagał ciągłej aktualizacji. Firma Microsoft zwraca jednak uwagę, że może być on bardzo przydatny podczas kampanii wyborczej w USA, która obecnie trwa.

Program analizuje każdą pojedynczą klatkę z filmu, jak również pojedyncze zdjęcia i ocenia je pod kątem manipulacji. Podczas tego na bieżąco jest wyświetlany współczynnik prawdziwości. Video Authenticator nie jest w stanie ujawnić dowodu na manipulację w każdej klatce, lecz jeśli zauważy, że nagle pojawia się niezrozumiałe rozmycie lub inny artefakt, zaznaczy go.

Microsoft nie udostępnia programu publicznie, by nikt nie mógł rozpracować dokładnie sposobu jego działania. Jest to natomiast świetny przykład tego, na czym polega maszynowe uczenie i karmienie algorytmu danymi, na podstawie których jest w stanie wykryć określone czynniki. Warto przy tym zwrócić uwagę na to, jak dokładne potrafią być programy zmieniające rzeczywistość, jak ten, który zaprezentował Disney do podkładania twarzy zmarłych aktorów w swoich produkcjach.

Więcej informacji znajdziecie na stronie Microsoftu.