Azjatycka studentka poprosiła AI o dobre zdjęcia. Ta zmieniła jej rysy twarzy

Niejednokrotnie spotykaliśmy się z zarzutami, że "algorytmy sztucznej inteligencji zachowują się rasistowsko". Przekonała się o tym studentka MIT Rona Wang, która ma azjatyckie korzenie. Generatywna sieć neuronowa zmieniła ją nie do poznania. To kompletnie inna osoba.

Zdjęcie studentki zostało bardzo zmienione.
Zdjęcie studentki zostało bardzo zmienione.
Źródło zdjęć: © Twitter | Rona Wang
Marcin Watemborski

04.08.2023 | aktual.: 04.08.2023 15:45

Zalogowani mogą więcej

Możesz zapisać ten artykuł na później. Znajdziesz go potem na swoim koncie użytkownika

Rona Wang studiuje na prestiżowej uczelni MIT i ma azjatyckie korzenie. Ta druga kwestia jest kluczowa dla omawianej sprawy ze względu na rysy twarzy. Kobieta poprosiła AI o to, by wygenerowała dla niej profesjonalnie wyglądające zdjęcie portretowe, które będzie mogła wstawić na LinkedIna. I tu zaczęły się schody.

Generatywna sieć neuronowa (GAN) Playground AI faktycznie przerobiła zdjęcie Azjatki, lecz absolutnie nie tak, jakby chciała. Rona Wang zyskała na niej kaukaskie rysy twarzy, typowe dla mieszkańców Europy. Kobieta w ogóle nie przypomina siebie. Ta sytuacja ponownie podniosła dyskusję na temat rasizmu sztucznej inteligencji.

Dalsza część artykułu pod materiałem wideo

Wang wrzuciła do Playground AI swoje zdjęcie portretowe jasno pokazujące jej korzenie etniczne. Miała oprócz tego na sobie bluzę MIT. W odpowiedzi uzyskała obraz kobiety o europejskiej urodzie, z jasnoniebieskimi oczami zamiast ciemnych, dużo jaśniejszej cerze oraz z włosami w kolorze ciemnego blondu. Zdecydowanie ten obraz nie spełnia swojego zadania i na LinkedIna się nie nada.

W sprawie głos zabrał Suhail Doshi, czyli założyciel Playground AI. Powiedział po prostu, że algorytmy sztucznej inteligencji nie są doskonałe i bazują na opisach. Tutaj warto dodać, że efekt końcowy po wpisaniu prompta [polecenia dla AI – przyp. red.] zależy od tego, na jakiej bazie danych został wytrenowany algorytm. Jeśli ta miała więcej zdjęć osób o kaukaskich rysach twarzy, zdecydowała, że te są najpopularniejsze i je wybrała.

Oskarżanie AI o rasizm nie jest poprawnym określeniem problemu. Bardziej trzeba by było zwrócić uwagę na zróżnicowanie baz danych wsadowych, dzięki czemu finalne obrazy bardziej nawiązywałyby do podstawowych danych i promptów.

Marcin Watemborski, redaktor prowadzący Fotoblogii

Komentarze (8)