SI zaskoczyła naukowców. Rozpoznała rasę po zdjęciach rentgenowskich

Naukowcy odkryli, że SI może być w stanie zidentyfikować rasę człowieka na podstawie samych zdjęć rentgenowskich i tomograficznych z około 90-procentową dokładnością. Ich badania zostały opublikowane w czasopiśmie Lancet Digital Health.

"Kiedy moi studenci pokazali mi niektóre wyniki zawarte w tej pracy, pomyślałam, że to musi być błąd" – powiedziała Marzyeh Ghassemi, adiunkt w dziedzinie informatyki i medycyny na MIT oraz współautorka pracy w wypowiedzi dla "Boston Globe". "Szczerze mówiąc, myślałam, że moi uczniowie zwariowali, kiedy mi o tym powiedzieli" - dodała.

W celu sprawdzenia zdolności sztucznej inteligencji do rozpoznawania obrazów, modelowi głębokiego uczenia podano najpierw zdjęcia tomograficzne i rentgenowskie wielu różnych obszarów ciała odrębnych grup ludzi. Z obrazów usunięto etykiety wraz z wszelkimi możliwymi cechami identyfikacyjnymi, takimi jak kolor skóry i włosów, po czym poproszono SI o zidentyfikowanie rasy danej osoby. W przypadku wszystkich obszarów ciała SI była w stanie zidentyfikować rasę z około 90-procentową dokładnością, nawet bez żadnych cech identyfikacyjnych.

Mając na uwadze wszystkie podstawy, badacze zastanawiali się, czy SI nie działała podstępnie, wykorzystując statystyki do odgadywania na podstawie zmiennych, takich jak wskaźnik masy ciała (BMI) lub gęstość piersi, które mogłyby sugerować, że dana rasa jest inna. Naukowcy usunęli możliwe zmienne i pokazali SI tylko zestawy danych osób o podobnym BMI i typie ciała, ale mimo to maszyna była w stanie zidentyfikować rasę.

Naukowcy wysunęli hipotezę, że SI potrafi rozpoznać różnice w zawartości melaniny w skórze białych i czarnych osób, które mogą być widoczne na skanach tomograficznych i rentgenowskich, ale pozostawać niezauważalnymi dla ludzi. Zanim jednak SI będzie mogła być wykorzystywana w szpitalach, badacze będą musieli przeprowadzić dodatkowe obserwacje. "Nie możemy spieszyć się z wprowadzaniem algorytmów do szpitali i klinik, dopóki nie będziemy pewni, że nie podejmują one decyzji rasistowskich czy seksistowskich" – powiedział Leo Anthony Celi, współautor i profesor nadzwyczajny w Harvard Medical School.

Konrad Siwik, dziennikarz Fotoblogii