AI w rekrutacji przestało być techniczną nowinką, a stało się standardem rynkowym. Pracodawcy, mierząc się z setkami aplikacji na jedno stanowisko, masowo wdrażają systemy oparte na sztucznej inteligencji, które filtrują życiorysy, analizują próbki pracy, a nawet oceniają mimikę i ton głosu kandydatów podczas wstępnych rozmów wideo. Czy jednak stosowanie tych zaawansowanych algorytmów w procesie rekrutacji jest w pełni zgodne z aktualnymi przepisami prawa?
Rekrutacja z narzędziami AI
Wdrażanie do procesu rekrutacyjnego w firmie narzędzi algorytmicznych bez głębokiej analizy ich zakorzenienia w prawie rodzi gigantyczne ryzyko. Z perspektywy biznesowej motywacją do stosowania AI jest efektywność, redukcja kosztów oraz chęć eliminacji ludzkich uprzedzeń. Nie bez znaczenia pozostaje także spora oszczędność czasu po stronie przyszłego pracodawcy.
Z perspektywy kandydata pojawia się jednak lęk przed bezdusznym mechanizmem, który może pozbawić go szansy na zatrudnienie z przyczyn całkowicie niejasnych. Czy firmy powinny jednak informować kandydatów o stosowaniu narzędzi AI podczas procesu rekrutacyjnego?
Kluczem do zrozumienia obowiązków informacyjnych jest prawidłowe zakwalifikowanie używanego narzędzia na gruncie unijnego rozporządzenia o sztucznej inteligencji (AI Act). Przepisy te wprowadzają podejście oparte na ryzyku, dzieląc systemy sztucznej inteligencji na kilka kategorii. Systemy AI wykorzystywane do oceny kandydatów, selekcji aplikacji lub podejmowania decyzji wpływających na warunki zatrudnienia co do zasady zostały zakwalifikowane do systemów wysokiego ryzyka w rozumieniu AI Act. Europejski ustawodawca dostrzegł w takich narzędziach realne zagrożenie dla podstawowych praw obywateli, w tym prawa do równego traktowania i niedyskryminacji.
Wysokie ryzyko niesie za sobą rygorystyczne obowiązki dla podmiotów wdrażających takie rozwiązania, czyli w tym przypadku dla pracodawców jako użytkowników systemu. Przede wszystkim pojawia się obowiązek zapewnienia przejrzystości. Kandydat nie może być poddawany ocenie algorytmicznej w sposób nieświadomy. Narzędzia te muszą być zaprojektowane tak, aby umożliwiały dostarczenie osobie fizycznej jasnych, zrozumiałych i wyczerpujących informacji o tym, że system AI jest zaangażowany w proces rekrutacyjny, jaki jest zakres jego działania oraz jakie parametry są brane pod uwagę przy ocenie. Brak dopełnienia tego obowiązku grozi nie tylko drastycznymi karami finansowymi nakładanymi przez organy nadzorcze, ale również paraliżem procesów rekrutacyjnych w firmie.
Obowiązek informacyjny a zakaz profilowania w RODO
Samo spełnienie wymogów AI Act to dopiero połowa sukcesu, ponieważ równolegle funkcjonują ugruntowane przepisy unijnego Ogólnego Rozporządzenia o Ochronie Danych (RODO). W kontekście rekrutacji kluczowy staje się art. 22 RODO wprowadzający ogólny zakaz poddawania osób decyzjom, które opierają się wyłącznie na zautomatyzowanym przetwarzaniu ich danych, w tym profilowaniu. Odrzucenie aplikacji kandydata przez system bez jakiejkolwiek weryfikacji ze strony człowieka bez wątpienia spełnia te kryteria.
Pracodawcy próbują omijać powyższy zakaz poprzez wprowadzanie tak zwanej pozornej interwencji ludzkiej, gdzie rekruter jedynie bezrefleksyjnie zatwierdza listę wygenerowaną przez algorytm. Orzecznictwo Europejskiej Rady Ochrony Danych oraz krajowych sądów administracyjnych jasno wskazuje, że udział człowieka musi być merytoryczny i realny. Pracownik działu HR musi mieć realny wpływ na zmianę decyzji maszyny.
W przypadku decyzji opartych wyłącznie na zautomatyzowanym przetwarzaniu konieczne jest spełnienie jednej z przesłanek przewidzianych w art. 22 ust. 2 RODO, przy czym w praktyce rekrutacyjnej najczęściej analizuje się możliwość oparcia procesu na wyraźnej zgodzie lub na niezbędności przetwarzania do podjęcia działań przed zawarciem umowy. Dodatkowo zgodnie z art. 13 i 14 RODO, trzeba przekazać kandydatowi informacje o logice algorytmu, a także o znaczeniu i przewidywanych konsekwencjach takiego przetwarzania dla tej osoby. Wyjaśnienie logiki działania systemu nie oznacza konieczności ujawniania kodu źródłowego, co stanowiłoby naruszenie tajemnicy przedsiębiorstwa, ale wymaga przedstawienia kryteriów selekcji w sposób zrozumiały dla laika.
Udział człowieka musi być rzeczywisty i skuteczny. Nie wystarcza formalne zatwierdzenie wyniku wygenerowanego przez system automatyczny, jeżeli człowiek nie dokonuje samodzielnej oceny i w praktyce opiera się na rekomendacji algorytmu […] Aby interwencja człowieka była skuteczna, osoba dokonująca oceny musi mieć uprawnienie i rzeczywistą możliwość zmiany decyzji algorytmu oraz dokonać analizy wszystkich istotnych danych.
Ograniczenia przy posługiwaniu się AI w rekrutacji
Trzecim filarem, który bezwzględnie ogranicza swobodę stosowania AI, są krajowe przepisy prawa pracy. Art. 221 Ustawy z 26 czerwca 1974 roku – Kodeks pracy (kp) zawiera zamknięty katalog danych, jakich pracodawca może żądać od kandydata do pracy. Systemy AI mają tendencję do zbierania i analizowania olbrzymiej ilości danych, często o charakterze behawioralnym, metadanych czy informacji czerpanych z publicznych profili w mediach społecznościowych. Jeśli algorytm przetwarza dane wykraczające poza ustawowy katalog, na przykład analizuje cechy osobowościowe na podstawie historii aktywności w sieci, pracodawca wkracza na skrajnie niebezpieczny grunt.
Uzyskanie zgody kandydata na przetwarzanie dodatkowych danych jest ograniczone omawianym przepisem – brak zgody lub jej wycofanie nie może być podstawą niekorzystnego traktowania kandydata ani powodować jakichkolwiek negatywnych konsekwencji. Jeśli system AI automatycznie odrzuci kandydata, który nie zgodził się na zaawansowaną analizę algorytmiczną, dochodzi do bezpośredniego naruszenia przepisów prawa pracy. Ponadto art. 113 kp nakłada na pracodawcę bezwzględny obowiązek szanowania godności i innych dóbr osobistych pracownika, co znajduje zastosowanie także na etapie rekrutacji do pracy.
Przykład 1.
Renomowana kancelaria prawna wdrożyła zaawansowany system AI do pierwszego etapu selekcji aplikacji na stanowiska aplikantów adwokackich. System analizował treść nadesłanych życiorysów oraz listów motywacyjnych, porównując je z profilami dotychczasowych pracowników, którzy odnieśli największy sukces w firmie.
Jeden z odrzuconych kandydatów dowiedział się nieoficjalnie, że jego aplikacja została odrzucona przez algorytm w ciągu zaledwie trzech sekund od wysłania, ponieważ system uznał, że ukończenie studiów na mniejszej uczelni regionalnej nie gwarantuje odpowiedniej jakości wiedzy. W ogłoszeniu o pracę nie było żadnej wzmianki o stosowaniu sztucznej inteligencji ani o preferowaniu konkretnych uniwersytetów. Kandydat oskarżył firmę o brak przejrzystości, naruszenie dóbr osobistych oraz dyskryminację ze względu na miejsce ukończenia studiów.
Czy pracodawca naruszył obowiązki informacyjne wynikające z AI Act i RODO oraz czy selekcja oparta na kryterium prestiżu uczelni dokonana przez AI stanowi naruszenie prawa pracy?
Tak, ponieważ zgodnie z AI Act kandydat musiał zostać poinformowany o udziale systemu w rekrutacji przed rozpoczęciem procesu oceny. Co więcej, w świetle art. 22 RODO doszło do w pełni zautomatyzowanego podjęcia decyzji bez zapewnienia realnego udziału człowieka, co przy braku wcześniejszej informacji i zgody jest nielegalne. Algorytm zastosował kryterium pośrednio dyskryminujące, które nie było merytorycznie uzasadnione obiektywnymi wymogami na danym stanowisku.
Ryzyko dyskryminacji algorytmicznej i naruszenia dóbr osobistych
Największym wyzwaniem związanym z wykorzystywaniem sztucznej inteligencji podczas procesu rekrutacyjnego jest tak zwane zjawisko uprzedzenia algorytmicznego. Systemy sztucznej inteligencji uczą się na danych historycznych. Jeśli w przeszłości na określonych stanowiskach menedżerskich w danej firmie sukces odnosili głównie mężczyźni w wieku trzydziestu pięciu lat, algorytm może zakwalifikować płeć żeńską lub starszy wiek jako czynniki obniżające dopasowanie do stanowiska. Taka sytuacja prowadzi do dyskryminacji pośredniej, która jest surowo zabroniona przez prawo krajowe i unijne.
W sferze odpowiedzialności cywilnej naruszenie dóbr osobistych kandydata, takich jak prawo do prywatności, dobre imię czy godność osobista, otwiera drogę do roszczeń na podstawie art. 24 Ustawy z 23 kwietnia 1964 roku – Kodeks cywilny (kc). Kandydat, który poczuje się urażony przez system rekrutacyjny lub zorientuje się, że maszyna oceniała parametry niemające związku z pracą, może żądać zadośćuczynienia pieniężnego lub zapłaty odpowiedniej sumy na cel społeczny. Koszty dla pracodawcy mogą być w tym przypadku gigantyczne, zwłaszcza jeśli mówimy o kosztach wizerunkowych, co w dobie walki o talenty na rynku pracy drastycznie obniża motywację obecnego zespołu i utrudnia pozyskiwanie nowych pracowników, niszcząc budowaną latami kulturę organizacyjną.
Przykład 2.
Międzynarodowa korporacja logistyczna zastosowała podczas rekrutacji na stanowisko spedytora międzynarodowego system AI, który przeprowadzał wstępne rozmowy kwalifikacyjne w formie wideo. Algorytm analizował mikroekspresje twarzy, strukturę zdań, tempo mowy oraz poziom stresu kandydata.
Kandydatka cierpiąca na lekkie, nabyte w dzieciństwie porażenie nerwu twarzowego została odrzucona przez system w pierwszej fazie, ponieważ algorytm ocenił jej mimikę jako niespójną i sygnalizującą brak stabilności emocjonalnej. Firma w klauzuli informacyjnej wspomniała jedynie o przetwarzaniu wizerunku na potrzeby rekrutacji, nie wyjaśniając, że oceny dokonuje maszyna analizująca parametry biometryczne i emocjonalne. Czy ukrycie faktu analizy biometrycznej przez AI może nieść skutki dla pracodawcy?
W przedstawionej sprawie mogło dojść do przetwarzania danych biometrycznych lub danych pozwalających na wnioskowanie o stanie zdrowia kandydatki, co wymagałoby szczególnej podstawy prawnej. System AI dopuścił się bezpośredniej dyskryminacji ze względu na stan zdrowia i niepełnosprawność, co narusza art. 183a Kodeksu pracy.
Dodatkowo naruszono dobra osobiste kandydatki w postaci prawa do prywatności i integralności cielesnej. Aby legalnie korzystać z takich narzędzi, pracodawca musi uzyskać uprzednią, świadomą i dobrowolną zgodę na analizę biometryczną, oferując alternatywną, tradycyjną ścieżkę rekrutacji dla osób, które na taki proces się nie zgadzają lub dla których jest on barierą ze względów zdrowotnych. Ponadto system musi przechodzić regularne audyty pod kątem eliminacji uprzedzeń wobec grup mniejszościowych.
Jak efektywnie korzystać z AI w rekrutacji?
Konstruowanie procedury rekrutacyjnej przy wykorzystaniu nowoczesnych narzędzi sztucznej inteligencji wymaga właściwego podejścia do sprawy. Obowiązek informacyjny dotyczący stosowania AI nie może być traktowany jako uciążliwy dodatek, ale jako fundament bezpieczeństwa prawnego całego procesu. Informacja dla kandydata powinna być dostępna już na poziomie ogłoszenia o pracę, a także musi w sposób jasny komunikować, że w procesie zostanie użyta sztuczna inteligencja. Kandydat musi wiedzieć o interakcji z systemem, zanim wyrazi chęć uczestnictwa w rekrutacji na dane stanowisko pracy.
Ukrywanie technologii rodzi podejrzenia o manipulację i nieuczciwość, co w przypadku wycieku takich informacji do opinii publicznej może zniszczyć reputację pracodawcy. Dobrze zaprojektowana kultura organizacyjna zakłada, że technologia wspiera człowieka, a nie go zastępuje, dlatego kluczowe jest jasne zdefiniowanie roli rekrutera jako ostatecznego arbitra w procesie selekcji.
Przykład 3.
Firma technologiczna z sektora finansowego stworzyła własny algorytm AI do sprawdzania publicznych profili kandydatów na platformach zawodowych oraz forach programistycznych w celu oceny ich zaangażowania i kultury wypowiedzi przed zaproszeniem ich do oficjalnego procesu rekrutacyjnego. Działania te były prowadzone w ścisłej tajemnicy.
Jeden ze specjalistów, który dowiedział się o tym, że jego publiczne wypowiedzi sprzed pięciu lat dotyczące frustracji zawodowej i wypalenia stały się powodem odrzucenia jego kandydatury przez algorytm, zażądał wyjaśnień, powołując się na prawo dostępu do danych oraz prawo do bycia zapomnianym.
Czy pracodawca ma prawo do ukrytego wykorzystywania systemów AI do analizy publicznie dostępnych danych kandydatów i jak powinien zareagować na żądanie dostępu do informacji o działaniu algorytmu?
Pracodawca nie miał prawa prowadzić ukrytej analizy za pomocą AI, nawet jeśli dane były publicznie dostępne. Fakt upublicznienia danych przez użytkownika nie oznacza, że pracodawca może je przetwarzać w dowolnym celu, zwłaszcza do automatycznej oceny przydatności zawodowej. Odpowiadając na żądanie kandydata, pracodawca ma bezwzględny obowiązek potwierdzić fakt i cele przetwarzania danych oraz ich kategorie, a także przedstawić istotne informacje o logice automatycznego podejmowania decyzji.
Aby naprawić ten proces, firma musi zrezygnować z ukrytego screeningu. Analiza profili zawodowych powinna być ograniczona wyłącznie do danych ściśle powiązanych ze stanowiskiem pracy i prowadzona dopiero po oficjalnym zgłoszeniu się kandydata do rekrutacji, z jednoczesnym przedstawieniem mu pełnej klauzuli informacyjnej o zakresie i metodach tej weryfikacji.
Podsumowanie
Stosowanie AI w procesie rekrutacyjnym jest dozwolone, choć wymaga spełnienia kilku warunków. Aby skutecznie połączyć wymogi AI Act, RODO i Kodeksu pracy, przedsiębiorstwa muszą podjąć konkretne kroki strukturalne i audytowe. Kandydat do pracy musi zostać poinformowany o stosowaniu sztucznej inteligencji, jeszcze zanim wyrazi chęć uczestnictwa w procesie. Rekrutacja musi opierać się także o czynnik ludzki, AI nie może w pełni prowadzić takiego postępowania bez weryfikacji dokonanej przez człowieka.
