Koniec z fake newsami wygenerowanymi przez AI? Na pewno jest bliżej

Firma Optic stworzyła bezpłatne narzędzie AI or Not, które ma za zadanie wykrycie, czy dany obraz został stworzony przez generatywne sieci neuronowe (GAN). Mimo tego, że nie jest to program idealny, może pomóc w wielu przypadkach. Przyjrzałem się mu bliżej.

Korzystanie z AI or Not jest banalnie proste. Wystarczy wejść na stronę internetową, wrzucić tam zdjęcie lub wkleić link i kliknąć przetwarzanie. Proces chwilkę trwa, ale w efekcie otrzymujemy informację zwrotną, w której narzędzie informuje nas, czy dany obraz jest prawdziwy.

Dalsza część artykułu pod materiałem wideo

Program rozpoznaje obrazy wygenerowane przez Midjourney, Dall-E czy Stable Diffusion. Problem polega na tym, że nie jest idealny. Wszystkie obrazy, które sprawdziłem, zrobiłem sam lub wygenerowałem za pomocą Midjourney. O ile w przypadku zdjęć wygenerowanych przez AI, program nie miał problemu z rozpoznaniem tworów algorytmów, tak w przypadku zdjęć było inaczej.

Specjalnie wrzuciłem do AI or Not jedno zdjęcie, które jest mocno wyretuszowane i mogłoby oszukać w ten sposób program. Cóż, udało się. Narzędzie określiło to zdjęcie zrobione w moim domowym studio mianem tworu AI. Nie spodziewałem się jednak, że dwa inne sprawią, że AI or Not będzie miało problem. Pierwsze nie zostało zidentyfikowane, a drugie będące prostym portretem, program określił jako twór GAN.

Według twórców AI or Not aplikacja ma być trafna w przypadku 98,9 proc. Nie mogę się z tym zgodzić, przykładach, które widzicie powyżej, program pomylił się w połowie przypadków. Pokazuje to, że weryfikatory AI muszą zostać znacznie poprawione, ponieważ nie są w stanie każdorazowo określić prawidłowego pochodzenia obrazu.