Google kontra AI. Będą nowe oznakowania obrazów wygenerowanych przez programy

Mechanizm działania SynthID polega na skomplikowanych zmianach na pojedynczych pikselach każdego obrazu. Te zmiany sprawią, że znaki wodne stają się niewidoczne dla ludzkiego oka, pozostając wykrywalne dla komputerów. Pomimo swoich ograniczeń, stanowi to nowatorskie podejście do rozróżniania zdjęć tworzonych przez ludzi od generowanych przez AI obrazów. Jest to ogromny krok naprzód w rozwiązywaniu coraz większego wyzwania w rozróżnianiu tego, co prawdziwe, od tego, co nie.

Na razie system znakowania obrazów będzie dotyczył jedynie tych stworzonych przez narzędzie Google Imagen. Znaki wodne mają również na celu nie tylko oznaczenie obrazu jako wygenerowanego przez AI, ale również utrudnianie nieautoryzowanego wykorzystywania utworów.

Mimo istniejących metod znakowania wodnego, ich przydatność w identyfikacji obrazów generowanych przez AI jest ograniczona ze względu na możliwość manipulacji nimi. W przeciwieństwie do tego, SynthID wprowadza niepozorny watermark, któremu umożliwia stwierdzenie autentyczności obrazu, nawet gdy grafika zostanie poddana silnym modyfikacjom.

Generatywne sieci neuronowe pokroju Midjourney zdobyły ogromną popularność w ostatnim roku. Ciekawostką jest to, że użytkownicy Midjourney wygenerowali w tak krótkim czasie tyle obrazów, ile fotografowie zrobili zdjęć przez pierwsze 150 lat istnienia medium.

W szerszym kontekście technologicznym firmy takie jak Microsoft i Amazon również zobowiązały się do wprowadzenia znaków wodnych, by odróżnić twory AI od prawdziwych materiałów. Meta też nie pozostaje bierna. Firma zaprezentowała plany integracji znaków wodnych w niepublikowanym jeszcze generatorze wideo o nazwie Make-A-Video.