Azjatycka studentka poprosiła AI o dobre zdjęcia. Ta zmieniła jej rysy twarzy

Rona Wang studiuje na prestiżowej uczelni MIT i ma azjatyckie korzenie. Ta druga kwestia jest kluczowa dla omawianej sprawy ze względu na rysy twarzy. Kobieta poprosiła AI o to, by wygenerowała dla niej profesjonalnie wyglądające zdjęcie portretowe, które będzie mogła wstawić na LinkedIna. I tu zaczęły się schody.

Generatywna sieć neuronowa (GAN) Playground AI faktycznie przerobiła zdjęcie Azjatki, lecz absolutnie nie tak, jakby chciała. Rona Wang zyskała na niej kaukaskie rysy twarzy, typowe dla mieszkańców Europy. Kobieta w ogóle nie przypomina siebie. Ta sytuacja ponownie podniosła dyskusję na temat rasizmu sztucznej inteligencji.

Wang wrzuciła do Playground AI swoje zdjęcie portretowe jasno pokazujące jej korzenie etniczne. Miała oprócz tego na sobie bluzę MIT. W odpowiedzi uzyskała obraz kobiety o europejskiej urodzie, z jasnoniebieskimi oczami zamiast ciemnych, dużo jaśniejszej cerze oraz z włosami w kolorze ciemnego blondu. Zdecydowanie ten obraz nie spełnia swojego zadania i na LinkedIna się nie nada.

W sprawie głos zabrał Suhail Doshi, czyli założyciel Playground AI. Powiedział po prostu, że algorytmy sztucznej inteligencji nie są doskonałe i bazują na opisach. Tutaj warto dodać, że efekt końcowy po wpisaniu prompta [polecenia dla AI – przyp. red.] zależy od tego, na jakiej bazie danych został wytrenowany algorytm. Jeśli ta miała więcej zdjęć osób o kaukaskich rysach twarzy, zdecydowała, że te są najpopularniejsze i je wybrała.

Oskarżanie AI o rasizm nie jest poprawnym określeniem problemu. Bardziej trzeba by było zwrócić uwagę na zróżnicowanie baz danych wsadowych, dzięki czemu finalne obrazy bardziej nawiązywałyby do podstawowych danych i promptów.