Rozwój technologii opartych na sztucznej inteligencji rewolucjonizuje zarządzanie personelem, a coraz częściej stosowana analiza predykcyjna w HR staje się kluczowym narzędziem wspierającym retencję pracowników. Choć algorytmy mogą pomóc w ograniczaniu rotacji, ich wdrożenie musi odbywać się w pełnej zgodności z przepisami o ochronie danych osobowych, co w praktyce wymaga od pracodawców szczegółowej analizy procesów przetwarzania informacji o pracownikach.
Analiza predykcyjna w HR a ochrona danych osobowych
Punktem wyjścia dla oceny legalności systemu przewidującego ryzyko odejścia pracownika jest ustalenie, czy informacje wykorzystywane przez algorytm stanowią dane osobowe. W typowym modelu predykcyjnym odpowiedź na to pytanie będzie twierdząca. Jeżeli dane dotyczą zidentyfikowanej lub możliwej do zidentyfikowania osoby fizycznej, ich gromadzenie, łączenie, selekcjonowanie, analizowanie oraz wykorzystywanie do wygenerowania określonej oceny podlega reżimowi RODO.
Przewidywanie odejścia z pracy może stanowić profilowanie
Analiza ryzyka odejścia pracownika bardzo często będzie mieściła się w pojęciu profilowania. RODO wiąże profilowanie z dowolną formą zautomatyzowanego przetwarzania danych osobowych polegającą na wykorzystaniu tych danych do oceny niektórych czynników osobowych dotyczących osoby fizycznej, w szczególności do analizy lub prognozy aspektów dotyczących jej zachowania, sytuacji lub innych cech.
System, który analizuje dane dotyczące pracownika po to, aby przewidzieć jego przyszłą decyzję o zakończeniu zatrudnienia, nie ogranicza się do zwykłego przechowywania lub porządkowania danych. Jego zasadniczą funkcją jest stworzenie prognozy dotyczącej przyszłego zachowania konkretnej osoby. To właśnie element oceny lub przewidywania ma zasadnicze znaczenie dla zakwalifikowania procesu jako profilowania.
Samo profilowanie nie jest jednak przez RODO całkowicie zakazane. Kluczowe jest odróżnienie zwykłego profilowania od sytuacji, w której decyzja wobec osoby fizycznej jest podejmowana wyłącznie w sposób zautomatyzowany i jednocześnie wywołuje wobec niej skutki prawne albo w podobny sposób istotnie na nią wpływa. W środowisku pracy różnica ta może mieć fundamentalne znaczenie.
Kiedy analiza predykcyjna w HR wymaga oceny skutków?
Wykorzystanie analizy predykcyjnej w HR nie może opierać się na założeniu, że skoro pracodawca legalnie przetwarza określone dane w związku ze stosunkiem pracy, to może wykorzystywać je w każdym dodatkowym procesie analitycznym. Dla każdego celu przetwarzania należy ustalić odpowiednią podstawę prawną.
W stosunku pracy szczególnego znaczenia nabiera fakt, że relacja pomiędzy pracownikiem a pracodawcą nie jest relacją całkowicie równorzędną. Z tego powodu zgoda pracownika powinna być traktowana z dużą ostrożnością, zwłaszcza gdy odmowa jej wyrażenia mogłaby powodować dla pracownika rzeczywistą lub choćby odczuwalną negatywną konsekwencję. Nie wystarczy zatem samo uzyskanie podpisu pod dokumentem, jeżeli w konkretnych okolicznościach nie można uznać, że zgoda została wyrażona dobrowolnie.
W zależności od charakteru przetwarzania potencjalnie rozważane mogą być różne podstawy prawne, w tym obowiązek prawny ciążący na administratorze, wykonanie określonych obowiązków związanych ze stosunkiem pracy lub prawnie uzasadniony interes administratora. Nie można jednak przyjąć jednej podstawy jako uniwersalnego rozwiązania dla wszystkich systemów przewidujących rotację personelu.
W szczególności powołanie się na prawnie uzasadniony interes wymaga przeprowadzenia rzeczywistej oceny. Pracodawca powinien skonkretyzować interes, który zamierza realizować, ocenić, czy przetwarzanie jest konieczne do osiągnięcia tego celu oraz przeprowadzić analizę, czy nad interesem administratora nie przeważają interesy lub podstawowe prawa i wolności pracownika.
Cel w postaci ograniczenia rotacji personelu jest gospodarczo uzasadniony. Nie oznacza to jednak, że uzasadniony interes automatycznie legalizuje każdy sposób osiągnięcia tego celu. Pracodawca powinien rozważyć, czy podobny rezultat może zostać osiągnięty przy wykorzystaniu mniejszej liczby danych, mniej inwazyjnej metody analizy albo danych zagregowanych i zanonimizowanych.
Istotne znaczenie ma także to, czy pracownik może rozsądnie spodziewać się takiego wykorzystania danych. Osoba zatrudniona może oczekiwać, że dane dotyczące jej zatrudnienia będą wykorzystywane do prowadzenia dokumentacji pracowniczej, rozliczania czasu pracy lub realizacji obowiązków wynikających z prawa pracy. Znacznie mniej oczywiste może być natomiast wykorzystanie szerokiego zestawu danych historycznych do przewidywania, czy w przyszłości zdecyduje się ona odejść z organizacji.
Szczególne kategorie danych wymagają odrębnej ostrożności
Analiza predykcyjna może prowadzić do sytuacji, w której system wykorzystuje informacje pozwalające na bezpośrednie lub pośrednie wnioskowanie o szczególnych kategoriach danych osobowych. Jest to szczególnie niebezpieczne w przypadku modeli uczących się na dużych zbiorach danych, w których administrator koncentruje się przede wszystkim na efektywności predykcyjnej, nie analizując wystarczająco dokładnie znaczenia poszczególnych zmiennych.
Przykładowo częste nieobecności mogą mieć wiele przyczyn. Jeżeli model uznaje określony wzorzec absencji za cechę zwiększającą prawdopodobieństwo odejścia, może jednocześnie wykorzystywać informacje silnie związane ze stanem zdrowia. Podobnie analiza określonych zachowań lub danych może prowadzić do pośredniego wnioskowania o innych sferach szczególnie chronionych.
Dodatkowo model może tworzyć niepożądane zależności statystyczne. Algorytm nie musi otrzymać informacji o konkretnej cesze pracownika, aby wykorzystać inne dane jako jej pośredni wskaźnik. Zjawisko to może prowadzić zarówno do problemów związanych z podstawą prawną przetwarzania, jak i do ryzyka nierównego traktowania w zatrudnieniu.
Zasada przejrzystości nie pozwala ukrywać istnienia systemu
Pracownik powinien otrzymać informacje pozwalające mu zrozumieć, że jego dane są wykorzystywane w procesie analitycznym. Obowiązek informacyjny nie powinien być realizowany w sposób czysto formalny, przez zamieszczenie ogólnego zdania w rozbudowanej dokumentacji, z której pracownik nie jest w stanie ustalić, czy jest poddawany profilowaniu.
Zakres przekazywanych informacji powinien odpowiadać rzeczywistemu procesowi przetwarzania. Jeżeli dane są analizowane w celu oszacowania prawdopodobieństwa odejścia z pracy, informacja o przetwarzaniu powinna pozwalać pracownikowi zrozumieć ten cel. Należy również wskazać odpowiednią podstawę prawną, kategorie danych, okres ich przechowywania oraz inne informacje wymagane przez przepisy.
Jeżeli w konkretnym przypadku zastosowanie ma zautomatyzowane podejmowanie decyzji, obowiązki informacyjne są dalej idące. Osoba, której dane dotyczą, powinna otrzymać informacje o zasadach podejmowania takich decyzji, ich znaczeniu oraz przewidywanych konsekwencjach.
Ocena skutków dla ochrony danych może być konieczna jeszcze przed uruchomieniem systemu
Wykorzystanie systemu sztucznej inteligencji do systematycznej oceny pracowników może wiązać się z wysokim ryzykiem naruszenia praw i wolności osób fizycznych. Z tego względu przed rozpoczęciem przetwarzania konieczne może być przeprowadzenie oceny skutków dla ochrony danych.
W przypadku analizy predykcyjnej ocena powinna obejmować w szczególności charakter danych, skalę przetwarzania, sposób działania modelu, potencjalne konsekwencje błędnych wyników, ryzyko dyskryminacji, zakres dostępu do rezultatów oraz możliwość wykorzystania wyniku do podejmowania decyzji wobec pracownika.
Należy również ocenić proporcjonalność całego procesu. Sam fakt, że technologia jest dostępna na rynku i może zwiększać efektywność zarządzania personelem, nie przesądza o tym, że jej zastosowanie wobec pracowników jest niezbędne i proporcjonalne. Konieczne jest porównanie zakładanego celu z ingerencją w prywatność pracowników oraz rozważenie mniej inwazyjnych rozwiązań.
Przykład 1.
Spółka wdrożyła system analizujący historię ocen okresowych, długość zatrudnienia, częstotliwość zmian zespołu oraz udział w szkoleniach, który automatycznie oznaczał pracowników jako osoby o wysokim ryzyku odejścia. Kierownicy otrzymywali wyłącznie wynik punktowy, bez informacji o tym, jakie czynniki wpłynęły na ocenę, a pracownicy nie wiedzieli o istnieniu tego mechanizmu. Jeden z pracowników został pominięty przy powierzaniu długoterminowego projektu wyłącznie dlatego, że system wskazał wysokie prawdopodobieństwo jego rezygnacji, chociaż nie planował on zmiany pracodawcy. W takiej sytuacji konieczne jest zbadanie, czy wynik algorytmu doprowadził do decyzji mającej istotny wpływ na sytuację zawodową pracownika oraz czy zapewniono rzeczywistą kontrolę człowieka, odpowiednią podstawę prawną i przejrzystość procesu. Samo określenie systemu jako „narzędzia wspierającego HR” nie przesądza bowiem o zgodności przetwarzania z RODO.
Automatyczne przewidywanie ryzyka odejścia może prowadzić do dyskryminacji
RODO nie jest jedynym aktem prawnym, który należy uwzględnić przy wdrażaniu analizy predykcyjnej w HR. Wynik działania algorytmu może wpływać na realizację obowiązków pracodawcy wynikających z przepisów prawa pracy, w tym obowiązku równego traktowania w zatrudnieniu.
System może pozornie działać w sposób neutralny, a mimo to prowadzić do mniej korzystnego traktowania określonych grup. Dzieje się tak zwłaszcza wtedy, gdy model został wytrenowany na danych odzwierciedlających historyczne nierówności lub gdy wykorzystuje zmienne silnie skorelowane z cechami chronionymi.
Ryzyko nie ogranicza się do bezpośredniego stosowania niedozwolonych kryteriów. Algorytm może korzystać z danych zastępczych, które w praktyce prowadzą do podobnego rezultatu. Z perspektywy pracodawcy nie jest wystarczającą obroną twierdzenie, że system nie otrzymał bezpośredniej informacji o określonej cesze pracownika.
Czy pracodawca może legalnie przewidywać, kto odejdzie z firmy?
Nie ma podstaw do przyjęcia, że samo wykorzystanie sztucznej inteligencji do przewidywania ryzyka odejścia pracownika jest zawsze niedopuszczalne. Równie nieprawidłowe byłoby jednak założenie, że legalność przetwarzania wynika automatycznie z gospodarczego celu polegającego na ograniczaniu rotacji.
Ocenę należy przeprowadzić w odniesieniu do konkretnego modelu. Kluczowe znaczenie ma zakres danych, ich źródło, cel analizy, podstawa prawna przetwarzania, sposób wykorzystania wyniku oraz rzeczywiste konsekwencje dla pracownika.
Najmniejsze ryzyko prawne wiąże się z rozwiązaniami, które wykorzystują ograniczony i adekwatny zakres danych, działają w jasno określonym celu, nie opierają istotnych decyzji wyłącznie na wyniku automatycznym oraz zapewniają rzeczywistą kontrolę człowieka. Ryzyko wzrasta, gdy system gromadzi szeroki zakres informacji, wykorzystuje dane z różnych sfer aktywności pracownika, tworzy trwałe profile, generuje nieprzejrzyste oceny lub automatycznie wpływa na możliwości rozwoju zawodowego i inne istotne elementy stosunku pracy.
Pracodawca powinien również pamiętać, że zgodność z RODO nie może być oceniana wyłącznie w chwili zakupu technologii. System predykcyjny jest procesem, który może ewoluować. Zmieniają się dane wejściowe, modele, sposób korzystania z wyników oraz osoby mające dostęp do ocen. Każda istotna zmiana może wpływać na wcześniejszą ocenę legalności.
