Scale AI oskarżona o inwigilację swoich pracowników

Scale AI, dostawca usług anotacji danych dla gigantów technologicznych takich jak Meta czy OpenAI, znalazła się pod ostrzałem europejskiej organizacji zajmującej się ochroną prywatności. NOYB złożyła przeciwko firmie pięć skarg, zarzucając nadmierną inwigilację freelancerów szkolących sztuczną inteligencję.

Platforma Outlier AI zatrudnia ponad 900 tys. osób, które oceniają odpowiedzi chatbotów i sprawdzają jakość treści generowanych przez sztuczną inteligencję. Pracownicy muszą poddać się inwazyjnej weryfikacji biometrycznej, aby otrzymać wynagrodzenie.

NOYB wskazuje, że na urządzeniach pracowników może być zainstalowanych aż 19 narzędzi śledzących. Rejestrują one kliknięcia, ruchy kursora i naciskane klawisze, pozwalając na odtworzenie przebiegu sesji pracy niemal jak nagrania ekranu.

Zebrane informacje, w tym adresy IP i identyfikatory urządzeń, trafiają do zewnętrznych podmiotów powiązanych z Facebookiem, TikTokiem i LinkedInem. Mogą one służyć do tworzenia profili użytkowników i personalizowania reklam.

Weryfikacja tożsamości

Osoby pracujące na Outlier muszą wielokrotnie przesyłać dokumenty i nagrania swoich twarzy. Weryfikacją zajmuje się zewnętrzna firma Persona, która przyznaje sobie prawo do gromadzenia mnóstwa danych osobowych, w tym adresów IP, informacji o urządzeniu, danych geolokalizacyjnych i danych kredytowych.

Scale AI uzasadnia takie kontrole potrzebą zapobiegania oszustwom i sprawdzania uprawnień użytkowników. NOYB uważa jednak, że powtarzane procedury są zbyt daleko idące i mogą naruszać przepisy dotyczące danych biometrycznych.

Brak dostępu do danych

Cztery osoby zwróciły się do Outlier o udostępnienie zebranych danych, zgodnie z przepisami RODO. Według skarg, żadna z nich nie otrzymała odpowiedzi.

NOYB domaga się przeprowadzenia postępowań wyjaśniających i nałożenia kar administracyjnych, jeśli organy potwierdzą naruszenia. Organizacja kwestionuje przede wszystkim legalność śledzenia bez zgody użytkowników, zakres zbieranych informacji i sposób przetwarzania danych biometrycznych.

Scale AI nie odpowiedziała na prośbę agencji Reutera o komentarz. Spór dotyczy również systemu przydzielania zadań i premiowania aktywności, który według badań DiPLab stosował zachęty finansowe skłaniające pracowników do wykonywania dużej liczby zadań w krótkim czasie.