Inteligentny odkurzacz zrobił im zdjęcia. Później trafiły do sieci

Sytuacja, która dopiero co wypłynęła na światło dzienne, odnosi się do testów urządzeń z 2020 roku. Wówczas programiści sprawdzali serię odkurzaczy inteligentnych iRobot Roomba J7. Okazało się, że domowy pomocnik robił zdjęcia i wysyłał je do firmy Scale AI, która zajmuje się szkoleniem algorytmów sztucznej inteligencji.

Pierwszy problem polega na tym, że później wspomniane fotografie trafiały do prywatnych grup Facebookowych czy kanałów na Discordzie. Drugi jest znacznie bardziej poważny. Chodzi o to, że odkurzacze robiły zdjęcia ludziom – dzieciom oraz dorosłym. Została udokumentowana nawet sytuacja, w której kobieta poszła skorzystać z toalety, a jadący za nią odkurzacz zrobił zdjęcia.

Na innych kadrach zobaczymy mieszkania różnych osób z oznaczonymi poszczególnymi elementami jak: kwiaty, szafki, telewizor, światła, drzwi i inne elementy wystroju. Rzecznik prasowy firmy iRobot potwierdził, że wszystkie ze wspomnianych zdjęć zostały zarejestrowane przez ich urządzenia. Jednocześnie informuje, że to jedynie 15 kadrów roboczych z 2 milionów innych, które zostały przesłane do Scale AI.

Rzecznik prasowy iRobota powiedział, że urządzenia, które zrobiły zdjęcia, były wersjami deweloperskimi ze zmodyfikowanym sprzętem oraz oprogramowaniem. Zapewnił również, że wspomniane zmiany nigdy nie były stosowane w produktach konsumenckich, które trafiły na rynek. Te przerobione były przeznaczone dla pracowników oraz testerów, którzy zgodzili się na zbieranie danych na potrzeby firmy – w tym nagrywanie filmów.

Firma iRobot podkreśliła, że na urządzeniach była naklejka informująca o rejestrowaniu obrazu i prośba o usunięcie wszystkiego, czego nie chcieliby pokazać testerzy z pola widzenia odkurzacza oraz zaopiekowanie się wizerunkiem dzieci. Jednocześnie producent drobnego AGD odmówił możliwości wglądu do umów, które wysłał swoim pracownikom.

Kwestią najbardziej kontrowersyjną jest udostępnienie materiałów testowych w mediach społecznościowych. Zarówno iRobot, jak i Scale AI przyznały się do tego, że wrzucenie zdjęć na grupy Facebookowe oraz kanały na Discordzie było złamaniem ustaleń umów z testerami, a grypy założyli pracownicy, by szybciej wymieniać się informacjami. Producent sprzętu mówi, że kadry pochodziły z Francji, Niemiec, Hiszpanii, Stanów Zjednoczonych oraz Japonii.

Podczas testów nowej serii Roomby kamery były wykorzystywane do wyszkolenia sztucznej inteligencji i zaprogramowania laserowych czujników, by wymijały przeszkody. Na podstawie wspomnianych sensorów odkurzacze określają również wielkość przestrzeni roboczej i optymalizują ścieżkę sprzątania.

Jakby nie patrzeć, incydent zdradził, że producent odkurzaczy korzysta z pomocy niezależnych firm i przekazuje im dane po to, by udoskonalić urządzenia. Jednocześnie wzbudza to podejrzenia dotyczące prywatności, bo informacje pozyskuje więcej osób. Czy należałoby się o to naprawdę martwić? Jeśli firma iRobot zapewnia, że konsumenckie wersje Roomby nie mają kamer do nagrywania i nie przekazują danych to zapewne nie, lecz warto o tym pamiętać w przyszłości, decydując się na inteligentnego pomocnika.