WAŻNE
TERAZ

Tragedia w kopalni na Dolnym Śląsku. Górnik nie żyje

Azjatycka studentka poprosiła AI o dobre zdjęcia. Ta zmieniła jej rysy twarzy

Niejednokrotnie spotykaliśmy się z zarzutami, że "algorytmy sztucznej inteligencji zachowują się rasistowsko". Przekonała się o tym studentka MIT Rona Wang, która ma azjatyckie korzenie. Generatywna sieć neuronowa zmieniła ją nie do poznania. To kompletnie inna osoba.

Zdjęcie studentki zostało bardzo zmienione.Zdjęcie studentki zostało bardzo zmienione.
Źródło zdjęć: © Twitter | Rona Wang
Marcin Watemborski

Rona Wang studiuje na prestiżowej uczelni MIT i ma azjatyckie korzenie. Ta druga kwestia jest kluczowa dla omawianej sprawy ze względu na rysy twarzy. Kobieta poprosiła AI o to, by wygenerowała dla niej profesjonalnie wyglądające zdjęcie portretowe, które będzie mogła wstawić na LinkedIna. I tu zaczęły się schody.

Generatywna sieć neuronowa (GAN) Playground AI faktycznie przerobiła zdjęcie Azjatki, lecz absolutnie nie tak, jakby chciała. Rona Wang zyskała na niej kaukaskie rysy twarzy, typowe dla mieszkańców Europy. Kobieta w ogóle nie przypomina siebie. Ta sytuacja ponownie podniosła dyskusję na temat rasizmu sztucznej inteligencji.

Dalsza część artykułu pod materiałem wideo

Czy warto kupić stację dysków zewnętrznych WD MyBook Duo 44TB?

Wang wrzuciła do Playground AI swoje zdjęcie portretowe jasno pokazujące jej korzenie etniczne. Miała oprócz tego na sobie bluzę MIT. W odpowiedzi uzyskała obraz kobiety o europejskiej urodzie, z jasnoniebieskimi oczami zamiast ciemnych, dużo jaśniejszej cerze oraz z włosami w kolorze ciemnego blondu. Zdecydowanie ten obraz nie spełnia swojego zadania i na LinkedIna się nie nada.

W sprawie głos zabrał Suhail Doshi, czyli założyciel Playground AI. Powiedział po prostu, że algorytmy sztucznej inteligencji nie są doskonałe i bazują na opisach. Tutaj warto dodać, że efekt końcowy po wpisaniu prompta [polecenia dla AI – przyp. red.] zależy od tego, na jakiej bazie danych został wytrenowany algorytm. Jeśli ta miała więcej zdjęć osób o kaukaskich rysach twarzy, zdecydowała, że te są najpopularniejsze i je wybrała.

Oskarżanie AI o rasizm nie jest poprawnym określeniem problemu. Bardziej trzeba by było zwrócić uwagę na zróżnicowanie baz danych wsadowych, dzięki czemu finalne obrazy bardziej nawiązywałyby do podstawowych danych i promptów.

Wybrane dla Ciebie

Gang fok przegania rekina. U wybrzeży Afryki foki dały popis współpracy
Gang fok przegania rekina. U wybrzeży Afryki foki dały popis współpracy
Nie uwierzysz na co patrzysz. Polacy w ścisłej czołówce takich zdjęć
Nie uwierzysz na co patrzysz. Polacy w ścisłej czołówce takich zdjęć
Niesamowity kadr przedstawiający pradawny gatunek skorupiaka wygrał prestiżowy konkurs
Niesamowity kadr przedstawiający pradawny gatunek skorupiaka wygrał prestiżowy konkurs
Ekstremalnie rzadki aparat został sprzedany za 3,5 mln euro. Wyprodukowano go 100 lat temu
Ekstremalnie rzadki aparat został sprzedany za 3,5 mln euro. Wyprodukowano go 100 lat temu
Kary za zdjęcia dzieci. Konsekwencje dla rodziców we Francji
Kary za zdjęcia dzieci. Konsekwencje dla rodziców we Francji
Rekin gonił cień drona. Zachowywał się, jak kot goniący zajączka
Rekin gonił cień drona. Zachowywał się, jak kot goniący zajączka
Brutalny atak jelenia na zdjęciu. Fotograf przestrzega turystów
Brutalny atak jelenia na zdjęciu. Fotograf przestrzega turystów
Widziałeś film z Hanksem? Aktor ostrzega przed oszustwem
Widziałeś film z Hanksem? Aktor ostrzega przed oszustwem
Perseidy, Droga Mleczna i świecące glony naraz. Oto zdjęcie jedno na milion
Perseidy, Droga Mleczna i świecące glony naraz. Oto zdjęcie jedno na milion
Meta wykorzystała publiczne zdjęcia z Facebooka i Instagrama do trenowania AI
Meta wykorzystała publiczne zdjęcia z Facebooka i Instagrama do trenowania AI
Prawdziwy skarb fotograficzny. Te zabytkowe aparaty nie zrobiły ani jednego zdjęcia
Prawdziwy skarb fotograficzny. Te zabytkowe aparaty nie zrobiły ani jednego zdjęcia
Tragedia podczas wycieczki. Kobieta spadła z urwiska robiąc selfie
Tragedia podczas wycieczki. Kobieta spadła z urwiska robiąc selfie