Algorytm rozpoznawania twarzy Twittera rasistowski? Są na to dowody

Dłuższy czas temu pojawiły się przesłanki na temat tego, że algorytm rozpoznawania twarzy na Twitterze faworyzuje zdjęcia młodych osób o jasnym kolorze skóry. W przypadku ciemnoskórych nie potrafił nawet dobrze przyciąć zdjęcia profilowego. Teraz okazało się, że to prawda.

Sztuczna inteligencja Twittera została źle wytrenowana. Mimo tego, że zbiór danych na serwisie jest pełny zdjęć osób o różnym kolorze skóry i w różnym wieku, algorytm nie radzi sobie z wykrywaniem ich twarzy. Zostało to udowodnione na przykładzie portretu byłego prezydenta USA Baracka Obamy.

Władze portalu społecznościowego niejednokrotnie przepraszały za błędy swojego programu i zwracały uwagę na to, że faworyzowanie młodych osób o jasnej skórze nie było ich celem. Sprawa jest o tyle istotna, że Twitter jest medium społecznym o charakterze opiniotwórczym – używają go politycy, różni aktywiści, sportowcy oraz wiele znanych osób z wielokulturowych środowisk.

Na konferencji DEF CON dotyczącej bezpieczeństwa (również wirtualnego) ogłoszono konkurs, którego celem było udowodnienie tezy, że algorytm Twittera można nazwać dyskryminującym (w dużym uproszczeniu). Udało się to studentowi ze szwajcarskiego uniwersytetu EFPL – Bogdanowi Kulynychowi. Nagrodą za to było nie tylko uznanie, ale również 3500 dolarów (ok. 13 000 złotych) w gotówce.

Pierwszym krokiem w dowodzeniu tezy było wygenerowanie za pomocą sztucznej inteligencji fotorealistycznych grafik portretowych zróżnicowanych etnicznie oraz wiekowo. Każda z twarzy była przedstawiona w różnych wariantach – od najstarszej do najmłodszej. Zróżnicowaniu podlegał też kolor skóry oraz płeć – algorytm Twittera był testowany zarówno na kobietach jak i mężczyznach.

Dyrektor ds. sztucznej inteligencji Twittera Rumman Chowdhury powiedział, że prezentacja Kulynycha ukazała nie tylko funkcjonowanie systemu rozpoznawania twarzy samego portalu, ale też postrzeganie ludzi w prawdziwym świecie. Według naukowca ogólnie ludzie za piękniejsze uważają te osoby, które są młodsze z wyraźniejszymi rysami twarzy odznaczającymi się dzięki kolorytowi skóry. W głównej mierze są to kobiety.

Bogdan Kulynych w swojej wypowiedzi po ogłoszeniu wyników konkursu zwrócił uwagę, że działanie algorytmu Twittera nie jest zwyczajnym błędem polegającym na nieodpowiedniej analizie danych, a problem leży dużo głębiej – już na etapie pisania kodu oprogramowania. Student podsumował wszystko dość dosadnie. Uważa, że dostarczanie użytkownikom treści atrakcyjnych ma bezpośredni wpływ na maksymalizację zysków, pobijanie szerzącego się seksizmu oraz promowanie nieprawdziwych informacji (fake newsów).

Więcej informacji na temat rozpracowania algorytmu znajdziecie na GitHubie.