Algorytm rozpoznawania twarzy Twittera rasistowski? Są na to dowody

Dłuższy czas temu pojawiły się przesłanki na temat tego, że algorytm rozpoznawania twarzy na Twitterze faworyzuje zdjęcia młodych osób o jasnym kolorze skóry. W przypadku ciemnoskórych nie potrafił nawet dobrze przyciąć zdjęcia profilowego. Teraz okazało się, że to prawda.

Algorytm rozpoznawania twarzy Twittera rasistowski? Są na to dowody 1
Źródło zdjęć: © © Pexels
Marcin Watemborski

Sztuczna inteligencja Twittera została źle wytrenowana. Mimo tego, że zbiór danych na serwisie jest pełny zdjęć osób o różnym kolorze skóry i w różnym wieku, algorytm nie radzi sobie z wykrywaniem ich twarzy. Zostało to udowodnione na przykładzie portretu byłego prezydenta USA Baracka Obamy.

Władze portalu społecznościowego niejednokrotnie przepraszały za błędy swojego programu i zwracały uwagę na to, że faworyzowanie młodych osób o jasnej skórze nie było ich celem. Sprawa jest o tyle istotna, że Twitter jest medium społecznym o charakterze opiniotwórczym – używają go politycy, różni aktywiści, sportowcy oraz wiele znanych osób z wielokulturowych środowisk.

Twitter Algorithmic Bias Bug Bounty Challenge Results

Na konferencji DEF CON dotyczącej bezpieczeństwa (również wirtualnego) ogłoszono konkurs, którego celem było udowodnienie tezy, że algorytm Twittera można nazwać dyskryminującym (w dużym uproszczeniu). Udało się to studentowi ze szwajcarskiego uniwersytetu EFPL – Bogdanowi Kulynychowi. Nagrodą za to było nie tylko uznanie, ale również 3500 dolarów (ok. 13 000 złotych) w gotówce.

Pierwszym krokiem w dowodzeniu tezy było wygenerowanie za pomocą sztucznej inteligencji fotorealistycznych grafik portretowych zróżnicowanych etnicznie oraz wiekowo. Każda z twarzy była przedstawiona w różnych wariantach – od najstarszej do najmłodszej. Zróżnicowaniu podlegał też kolor skóry oraz płeć – algorytm Twittera był testowany zarówno na kobietach jak i mężczyznach.

Dyrektor ds. sztucznej inteligencji Twittera Rumman Chowdhury powiedział, że prezentacja Kulynycha ukazała nie tylko funkcjonowanie systemu rozpoznawania twarzy samego portalu, ale też postrzeganie ludzi w prawdziwym świecie. Według naukowca ogólnie ludzie za piękniejsze uważają te osoby, które są młodsze z wyraźniejszymi rysami twarzy odznaczającymi się dzięki kolorytowi skóry. W głównej mierze są to kobiety.

Bogdan Kulynych w swojej wypowiedzi po ogłoszeniu wyników konkursu zwrócił uwagę, że działanie algorytmu Twittera nie jest zwyczajnym błędem polegającym na nieodpowiedniej analizie danych, a problem leży dużo głębiej – już na etapie pisania kodu oprogramowania. Student podsumował wszystko dość dosadnie. Uważa, że dostarczanie użytkownikom treści atrakcyjnych ma bezpośredni wpływ na maksymalizację zysków, pobijanie szerzącego się seksizmu oraz promowanie nieprawdziwych informacji (fake newsów).

Więcej informacji na temat rozpracowania algorytmu znajdziecie na GitHubie.

Wybrane dla Ciebie

Gang fok przegania rekina. U wybrzeży Afryki foki dały popis współpracy
Gang fok przegania rekina. U wybrzeży Afryki foki dały popis współpracy
Nie uwierzysz na co patrzysz. Polacy w ścisłej czołówce takich zdjęć
Nie uwierzysz na co patrzysz. Polacy w ścisłej czołówce takich zdjęć
Niesamowity kadr przedstawiający pradawny gatunek skorupiaka wygrał prestiżowy konkurs
Niesamowity kadr przedstawiający pradawny gatunek skorupiaka wygrał prestiżowy konkurs
Ekstremalnie rzadki aparat został sprzedany za 3,5 mln euro. Wyprodukowano go 100 lat temu
Ekstremalnie rzadki aparat został sprzedany za 3,5 mln euro. Wyprodukowano go 100 lat temu
Kary za zdjęcia dzieci. Konsekwencje dla rodziców we Francji
Kary za zdjęcia dzieci. Konsekwencje dla rodziców we Francji
Rekin gonił cień drona. Zachowywał się, jak kot goniący zajączka
Rekin gonił cień drona. Zachowywał się, jak kot goniący zajączka
Brutalny atak jelenia na zdjęciu. Fotograf przestrzega turystów
Brutalny atak jelenia na zdjęciu. Fotograf przestrzega turystów
Widziałeś film z Hanksem? Aktor ostrzega przed oszustwem
Widziałeś film z Hanksem? Aktor ostrzega przed oszustwem
Perseidy, Droga Mleczna i świecące glony naraz. Oto zdjęcie jedno na milion
Perseidy, Droga Mleczna i świecące glony naraz. Oto zdjęcie jedno na milion
Meta wykorzystała publiczne zdjęcia z Facebooka i Instagrama do trenowania AI
Meta wykorzystała publiczne zdjęcia z Facebooka i Instagrama do trenowania AI
Prawdziwy skarb fotograficzny. Te zabytkowe aparaty nie zrobiły ani jednego zdjęcia
Prawdziwy skarb fotograficzny. Te zabytkowe aparaty nie zrobiły ani jednego zdjęcia
Tragedia podczas wycieczki. Kobieta spadła z urwiska robiąc selfie
Tragedia podczas wycieczki. Kobieta spadła z urwiska robiąc selfie