AI pod lupą pracodawcy. Gdzie kończy się kontrola, a zaczyna naruszenie prawa?

• Systemy wysokiego ryzyka w zarządzaniu pracownikami
• Granica między analizą a profilowaniem
• Decyzje kadrowe podejmowane przez algorytmy?
• AI Act I RODO, czyli podwójny reżim ochronny
• Obowiązki pracodawców po wejściu AI Act

Pracodawcy od lat korzystają z różnych form monitoringu. Obejmują one monitoring wizyjny, kontrolę poczty elektronicznej czy analizę aktywności służbowych urządzeń. Rozwój sztucznej inteligencji znacząco zwiększył jednak możliwości nadzoru.

Nowoczesne systemy potrafią analizować tempo pracy, identyfikować wzorce zachowań, przewidywać ryzyko odejścia pracownika, oceniać efektywność zespołów, a nawet wspierać procesy rekrutacyjne poprzez automatyczną ocenę kandydatów.

To właśnie tego rodzaju rozwiązania znalazły się w centrum zainteresowania unijnego ustawodawcy. AI Act uznaje część systemów wykorzystywanych w obszarze zatrudnienia za systemy wysokiego ryzyka, ponieważ mogą one wpływać na prawa podstawowe obywateli, w tym prawo do pracy i równego traktowania.

Systemy wysokiego ryzyka w zarządzaniu pracownikami

Zgodnie z AI Act szczególnie rygorystycznym wymogom podlegają systemy wykorzystywane do rekrutacji, selekcji kandydatów, podejmowania decyzji dotyczących awansu, oceny pracowników, przydzielania zadań oraz rozwiązywania stosunku pracy.

W opublikowanych przez Komisję Europejską wytycznych wskazano, że pojęcie zatrudnienia należy interpretować szeroko. Obejmuje ono nie tylko pracowników etatowych, ale również osoby wykonujące pracę na podstawie innych form współpracy, w tym freelancerów, samozatrudnionych oraz pracowników platform cyfrowych.

Oznacza to, że przedsiębiorcy nie unikną obowiązków wynikających z AI Act wyłącznie dlatego, że współpracują z wykonawcami na podstawie umów cywilnoprawnych.

Granica między analizą a profilowaniem

Jednym z najważniejszych zagadnień jest profilowanie pracowników. W praktyce oznacza ono automatyczne przetwarzanie danych w celu oceny określonych cech osoby, takich jak wydajność, zachowanie, preferencje czy przewidywane działania.

Jeżeli system AI tworzy profile pracowników i wykorzystuje je do podejmowania decyzji kadrowych, ryzyko naruszenia praw podstawowych znacząco wzrasta. Właśnie dlatego AI Act przewiduje szczególne wymogi dotyczące przejrzystości, jakości danych, zarządzania ryzykiem oraz nadzoru człowieka nad działaniem systemu.

Eksperci prawa nowych technologii zwracają uwagę, że przedsiębiorstwa nie mogą bezrefleksyjnie opierać decyzji kadrowych wyłącznie na rekomendacjach algorytmów. Ostateczna odpowiedzialność pozostaje po stronie człowieka.

Decyzje kadrowe podejmowane przez algorytmy?

Jednym z największych zagrożeń wskazywanych przez regulatorów jest automatyzacja decyzji personalnych. W praktyce mogłoby to oznaczać sytuację, w której algorytm wskazuje osoby do zwolnienia, awansu lub objęcia dodatkowymi obowiązkami.

AI Act nie zabrania wspierania takich procesów przez sztuczną inteligencję, ale wymaga zapewnienia skutecznego nadzoru człowieka. Pracodawca powinien rozumieć sposób działania systemu, znać jego ograniczenia oraz mieć możliwość zakwestionowania rekomendacji wygenerowanych przez algorytm.

Jeżeli decyzja zostałaby podjęta wyłącznie na podstawie działania nieprzejrzystego systemu AI, mogłoby to prowadzić do sporów sądowych i podważania legalności takich działań.

AI Act I RODO, czyli podwójny reżim ochronny

Firmy wdrażające narzędzia sztucznej inteligencji muszą pamiętać, że AI Act nie zastępuje przepisów RODO. Oba akty prawne funkcjonują równolegle.

W praktyce oznacza to konieczność spełnienia wymogów dotyczących ochrony danych osobowych, minimalizacji przetwarzania danych, zapewnienia odpowiedniej podstawy prawnej oraz transparentności wobec pracowników.

Pracodawca powinien jasno informować, jakie dane są zbierane, w jakim celu są analizowane i czy w procesie wykorzystywana jest sztuczna inteligencja. Brak takiej transparentności może prowadzić do naruszenia zarówno przepisów RODO, jak i AI Act.

Obowiązki pracodawców po wejściu AI Act

Wraz z kolejnymi etapami wdrażania AI Act przedsiębiorcy będą musieli coraz dokładniej dokumentować wykorzystanie systemów sztucznej inteligencji w obszarze HR.

Do najważniejszych obowiązków należą analiza ryzyka, prowadzenie dokumentacji, zapewnienie jakości danych wykorzystywanych przez system, utrzymywanie nadzoru człowieka nad procesami decyzyjnymi oraz odpowiednie szkolenie personelu korzystającego z AI. Komisja Europejska podkreśla, że celem regulacji nie jest zakazanie innowacji, lecz ograniczenie sytuacji, w których algorytmy mogłyby prowadzić do dyskryminacji, błędnych ocen lub nieuzasadnionej ingerencji w prawa pracowników.