Muszą usunąć 10 miliardów selfie. Złamali RODO i stworzyli nielegalny system

Amerykańska firma Clearview AI stworzyła sztuczną inteligencję zajmującą się rozpoznawaniem twarzy. Aby ją wyszkolić, wykorzystała około 10 miliardów selfie z mediów społecznościowych. Możliwe, że twoje zdjęcia też tam były. Teraz przyjdzie jej za to słono zapłacić.

Clearview AI specjalizuje się w systemach rozpoznawania twarzy. Z tą firmą jest kilka problemów. Po pierwsze – pogwałciła politykę prywatności serwisów społecznościowych, wykorzystując wgrane tam zdjęcia do trenowania swoich algorytmów. Po drugie – złamała założenia RODO, korzystając z wizerunków osób na zdjęciach. Po trzecie – to prywatna firma, więc algorytm SI mógł kupić każdy, kto miał pieniądze.

Francuski rząd nakazał Clearview AI usunięcie całej bazy danych, na którą składa się około 10 miliardów selfie z portali takich jak: Facebook, Instagram, Twitter, YouTube oraz Venmo. Firma nie tylko wypracowała na ich podstawie system rozpoznawania twarzy, ale również sprzedała go niepodlegającym nadzorowi rządowemu organizacjom zajmującym się ściganiem przestępstw.

W związku z działaniami Clearview AI pojawiły się liczne podejrzenia co do legalności interesu oraz motywów działania firmy. Już w maju 2020 roku rozpoczęło się dochodzenie badające kolejne kroki Clearview AI, które rok później doprowadziło do przeskanowania działań przez francuską Krajową Komisję Informatyki i Wolności. Ta zaś orzekła, że funkcjonowanie firmy łamie RODO pod kątem zbierania i wykorzystywania danych biometrycznych bez żadnych podstaw prawnych.

Efektem zamieszania jest to, że Clearview AI ma dwa miesiące na zaprzestanie nielegalnego procederu i usunięcie danych. Istotne jest to, że działania dotyczą jedynie danych zgromadzonych na terytorium Francji. Zdjęcia, które pochodzą od osób poza tym krajem, wciąż mogą pozostać w bazie danych. Nie wiadomo, kiedy i jakie działania zostaną podjęte w innych państwach, ale to temat, któremu będziemy się uważnie przyglądać.