Google kontra AI. Będą nowe oznakowania obrazów wygenerowanych przez programy

Google rozpoczęło próby systemu znakowania obrazów wygenerowanych przez sztuczną inteligencję. Inicjatywa o nazwie SynthID, prowadzona przez dział SI Google'a, ma na celu identyfikację obrazów stworzonych przez komputery i dostarczenie kluczowego narzędzia w walce z dezinformacją.

Mechanizm działania SynthID polega na skomplikowanych zmianach na pojedynczych pikselach każdego obrazu. Te zmiany sprawią, że znaki wodne stają się niewidoczne dla ludzkiego oka, pozostając wykrywalne dla komputerów. Pomimo swoich ograniczeń, stanowi to nowatorskie podejście do rozróżniania zdjęć tworzonych przez ludzi od generowanych przez AI obrazów. Jest to ogromny krok naprzód w rozwiązywaniu coraz większego wyzwania w rozróżnianiu tego, co prawdziwe, od tego, co nie.

Na razie system znakowania obrazów będzie dotyczył jedynie tych stworzonych przez narzędzie Google Imagen. Znaki wodne mają również na celu nie tylko oznaczenie obrazu jako wygenerowanego przez AI, ale również utrudnianie nieautoryzowanego wykorzystywania utworów.

Dalsza część artykułu pod materiałem wideo

Mimo istniejących metod znakowania wodnego, ich przydatność w identyfikacji obrazów generowanych przez AI jest ograniczona ze względu na możliwość manipulacji nimi. W przeciwieństwie do tego, SynthID wprowadza niepozorny watermark, któremu umożliwia stwierdzenie autentyczności obrazu, nawet gdy grafika zostanie poddana silnym modyfikacjom.

Generatywne sieci neuronowe pokroju Midjourney zdobyły ogromną popularność w ostatnim roku. Ciekawostką jest to, że użytkownicy Midjourney wygenerowali w tak krótkim czasie tyle obrazów, ile fotografowie zrobili zdjęć przez pierwsze 150 lat istnienia medium.

W szerszym kontekście technologicznym firmy takie jak Microsoft i Amazon również zobowiązały się do wprowadzenia znaków wodnych, by odróżnić twory AI od prawdziwych materiałów. Meta też nie pozostaje bierna. Firma zaprezentowała plany integracji znaków wodnych w niepublikowanym jeszcze generatorze wideo o nazwie Make-A-Video.