Rozwój sztucznej inteligencji w obszarze zarządzania zasobami ludzkimi należy do najbardziej dynamicznych zjawisk ostatnich lat. Obecnie rekrutacja i ocena kandydatów przez AI w świetle AI Act stawia przed przedsiębiorcami zupełnie nowe wyzwania regulacyjne. Nowoczesne narzędzia HR wykraczają już poza ewidencję czasu pracy i przechowywanie dokumentów, wykorzystując zaawansowane algorytmy do analizowania aplikacji i przewidywania efektywności pracowników. Poniżej wyjaśniamy, dlaczego systemy HR uznano za rozwiązania wysokiego ryzyka.
AI Act a systemy HR – rekrutacja i ocena kandydatów przez AI w świetle AI Act
Automatyzacja procesów kadrowych przynosi przedsiębiorcom wiele korzyści. Pozwala ograniczyć koszty, skrócić czas rekrutacji, usprawnić analizę dużej liczby aplikacji oraz zwiększyć efektywność procesów decyzyjnych. Jednocześnie jednak wykorzystanie sztucznej inteligencji w obszarze zatrudnienia wiąże się z istotnymi zagrożeniami dla praw podstawowych osób fizycznych. Decyzje dotyczące zatrudnienia, awansu, wynagrodzenia czy rozwiązania stosunku pracy wpływają bowiem bezpośrednio na sytuację życiową pracowników i kandydatów.
To właśnie z tego powodu prawodawca unijny, tworząc Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z 13 czerwca 2024 roku ustanawiające zharmonizowane przepisy dotyczące sztucznej inteligencji (AI Act), uznał określone systemy AI wykorzystywane w obszarze zatrudnienia za systemy wysokiego ryzyka. Oznacza to objęcie ich szczególnym reżimem prawnym, nakładającym na dostawców i użytkowników szereg obowiązków związanych z bezpieczeństwem, przejrzystością oraz ochroną praw osób, których dotyczą podejmowane decyzje.
AI Act i podejście oparte na ryzyku
Rozporządzenie AI Act opiera się na modelu regulacyjnym bazującym na poziomie ryzyka generowanego przez dany system sztucznej inteligencji. Nie wszystkie rozwiązania AI podlegają takim samym wymaganiom.
Rozporządzenie rozróżnia kilka kategorii systemów. Najbardziej restrykcyjnie potraktowano praktyki zakazane, które uznano za niedopuszczalne ze względu na ich szczególnie wysokie zagrożenie dla praw podstawowych. Następnie wyodrębniono systemy wysokiego ryzyka, które mogą być stosowane, ale wyłącznie pod warunkiem spełnienia rozbudowanych wymogów prawnych. Odrębne regulacje dotyczą również systemów generatywnej sztucznej inteligencji oraz rozwiązań podlegających jedynie ograniczonym obowiązkom przejrzystości.
W przypadku obszaru zatrudnienia ustawodawca unijny nie zdecydował się na całkowity zakaz stosowania sztucznej inteligencji – choć katalog systemów zakazanych zawsze należy mieć na uwadze podczas oceny dopuszczalności stosowania poszczególnych narzędzi. Ustawodawca uznał natomiast, że skutki błędnego działania takich systemów mogą być na tyle poważne, iż konieczne jest wskazanie zatrudnienia wśród kategorii systemów wysokiego ryzyka.
Podstawowym założeniem AI Act jest bowiem ochrona osób przed sytuacjami, w których decyzje wywierające istotny wpływ na ich życie podejmowane są w sposób nieprzejrzysty, dyskryminacyjny lub pozbawiony odpowiedniej kontroli człowieka.
Jakie systemy HR wysokiego ryzyka obejmuje rekrutacja i ocena kandydatów przez AI w świetle AI Act
Rozporządzenie AI Act nie obejmuje wszystkich narzędzi używanych przez działy HR. Kluczowe znaczenie ma przeznaczenie danego systemu oraz wpływ jego działania na sytuację pracowników lub kandydatów.
W kategorii zatrudnienie, zarządzanie pracownikami i dostęp do samozatrudnienia za systemy wysokiego ryzyka uznawane będą:
- systemy AI przeznaczone do celów rekrutacji lub wyboru osób fizycznych, w szczególności do umieszczania ukierunkowanych ogłoszeń o pracę, analizowania i filtrowania podań o pracę oraz do oceny kandydatów;
- systemy AI przeznaczone do celów podejmowania decyzji wpływających na warunki stosunków pracy, decyzji o awansie lub rozwiązaniu umownego stosunku pracy, przydzielania zadań na podstawie indywidualnych zachowań, cech osobowości albo charakteru, a także do monitorowania czy też oceny wydajności i zachowania osób pozostających w takich stosunkach.
W praktyce oznacza to, że wysokim ryzykiem mogą być objęte między innymi algorytmy automatycznie analizujące CV, systemy punktujące kandydatów, narzędzia oceniające rozmowy kwalifikacyjne, aplikacje analizujące zachowanie pracowników, programy przewidujące produktywność zespołów czy rozwiązania rekomendujące zwolnienia lub awanse.
Dlaczego obszar zatrudnienia został potraktowany szczególnie
Szczególna pozycja systemów HR w AI Act wynika z fundamentalnego znaczenia pracy dla funkcjonowania jednostki.
Zatrudnienie nie jest wyłącznie źródłem dochodu. Od możliwości uzyskania pracy zależy często poziom życia, dostęp do świadczeń społecznych, zdolność kredytowa, sytuacja mieszkaniowa oraz szeroko rozumiana stabilność życiowa. Błędna decyzja algorytmu może skutkować utratą szansy zawodowej lub pogorszeniem sytuacji ekonomicznej osoby zainteresowanej.
Prawodawca unijny wskazał, że decyzje dotyczące zatrudnienia należą do kategorii decyzji szczególnie istotnych dla realizacji praw podstawowych. Dotyczy to zwłaszcza prawa do pracy, prawa do równego traktowania, prawa do ochrony danych osobowych oraz prawa do poszanowania godności człowieka.
W konsekwencji uznano, że wykorzystywanie sztucznej inteligencji w procesach HR wymaga szczególnych zabezpieczeń.
Ryzyko dyskryminacji algorytmicznej
Jednym z najważniejszych powodów zakwalifikowania systemów HR jako wysokiego ryzyka jest możliwość występowania dyskryminacji algorytmicznej.
System sztucznej inteligencji uczy się na podstawie danych historycznych. Jeżeli dane wykorzystywane do trenowania modelu zawierają błędy, stereotypy lub skutki wcześniejszych praktyk dyskryminacyjnych, algorytm może powielać te nieprawidłowości.
Przykład 1.
Spółka ABC przez wiele lat zatrudniała głównie mężczyzn na stanowiskach kierowniczych. Postanowiła wdrożyć system AI wspierający decyzje dotyczące awansów. System bazuje głównie na danych historycznych. Jakie ryzyka wiążą się z korzystaniem z takiego systemu? System analizujący historyczne dane może błędnie uznać płeć męską za cechę zwiększającą prawdopodobieństwo sukcesu zawodowego. W efekcie kobiety mogą otrzymywać niższe oceny lub być eliminowane na wcześniejszym etapie rekrutacji. Takim efektom mają zapobiegać wymogi dotyczące systemów wysokiego ryzyka.
Podobne zagrożenia mogą dotyczyć wieku, pochodzenia etnicznego, niepełnosprawności, narodowości, wyznania czy innych cech chronionych przez przepisy antydyskryminacyjne.
Co istotne, dyskryminacja nie musi być zamierzona. Może wynikać z nieprawidłowo dobranych danych treningowych, błędów metodologicznych albo korelacji występujących w danych historycznych. Z perspektywy osoby poszkodowanej skutki pozostają jednak takie same – utrata szansy zatrudnienia lub pogorszenie sytuacji zawodowej.
Obowiązki dostawców systemów wysokiego ryzyka
Dostawcy systemów AI przeznaczonych do wykorzystania w procesach HR muszą spełnić liczne wymagania wynikające z AI Act.
Dostawca powinien również zagwarantować odpowiedni poziom dokładności, odporności i cyberbezpieczeństwa systemu. Istotne znaczenie ma także obowiązek monitorowania działania systemu po jego wdrożeniu oraz zgłaszania poważnych incydentów.
Regulacja nie ogranicza się więc wyłącznie do momentu wprowadzenia produktu na rynek, lecz obejmuje cały cykl jego życia.
Obowiązki pracodawców korzystających z AI
W praktyce równie istotne są obowiązki podmiotów wykorzystujących systemy AI w działalności operacyjnej. Pracodawca nie może zakładać, że samo nabycie narzędzia od renomowanego dostawcy zwalnia go z odpowiedzialności za zgodne z prawem wykorzystanie systemu.
Podmiot stosujący system wysokiego ryzyka powinien korzystać z niego zgodnie z instrukcjami producenta, monitorować jego działanie oraz zapewniać odpowiedni nadzór człowieka. Konieczne może być również prowadzenie dokumentacji dotyczącej funkcjonowania systemu oraz podejmowanych na jego podstawie decyzji.
W wielu przypadkach przedsiębiorca będzie musiał równolegle uwzględnić obowiązki wynikające z przepisów o ochronie danych osobowych, prawa pracy oraz regulacji antydyskryminacyjnych.
