Rekrutacja, bankowość, medycyna. Tu AI podlega szczególnym zasadom

• Rekrutacja i zarządzanie pracownikami jako obszar wysokiego ryzyka
• Bankowość, edukacja i usługi publiczne
• Wyjątki od klasyfikacji wysokiego ryzyka
• Obowiązki dla systrmów wysokiego ryzyka
• Jak przedsiębiorca może zweryfikować swój system AI?

AI Act nie uznaje za system wysokiego ryzyka każdego narzędzia wykorzystującego sztuczną inteligencję. O kwalifikacji decyduje przede wszystkim obszar zastosowania oraz potencjalny wpływ systemu na zdrowie, bezpieczeństwo lub prawa podstawowe obywateli.

Unijne przepisy przewidują dwa główne mechanizmy klasyfikacji. Pierwszy obejmuje systemy AI stanowiące element produktów objętych unijnymi regulacjami bezpieczeństwa, takich jak niektóre wyroby medyczne, maszyny, urządzenia transportowe czy rozwiązania wykorzystywane w infrastrukturze krytycznej.

Drugi dotyczy zastosowań wymienionych bezpośrednio w załączniku III do AI Act. To właśnie ta grupa będzie miała największe znaczenie dla przedsiębiorców i instytucji publicznych.

Rekrutacja i zarządzanie pracownikami jako obszar wysokiego ryzyka

Jednym z najbardziej znanych przykładów są systemy wykorzystywane w obszarze zatrudnienia. Dotyczy to między innymi narzędzi służących do selekcji kandydatów, oceny CV, przeprowadzania zautomatyzowanych analiz podczas rekrutacji czy wspierania decyzji dotyczących awansów i zwolnień.

Komisja Europejska podkreśla, że przepisy obejmują nie tylko pracowników etatowych, ale również osoby świadczące pracę na innych podstawach prawnych, w tym freelancerów i osoby współpracujące z platformami cyfrowymi.

Jeżeli system AI wpływa na decyzje związane z dostępem do zatrudnienia lub przebiegiem kariery zawodowej, istnieje duże prawdopodobieństwo uznania go za system wysokiego ryzyka.

Bankowość, edukacja i usługi publiczne

Kolejną grupę stanowią rozwiązania wykorzystywane przy ocenie zdolności kredytowej, analizie ryzyka finansowego oraz podejmowaniu decyzji dotyczących dostępu do usług finansowych.

W praktyce oznacza to, że bank wykorzystujący sztuczną inteligencję do oceny wniosków kredytowych może podlegać znacznie bardziej rygorystycznym wymogom niż przedsiębiorstwo korzystające z AI wyłącznie do generowania treści marketingowych.

Systemami wysokiego ryzyka mogą być również rozwiązania wykorzystywane w edukacji. Dotyczy to między innymi narzędzi wpływających na ocenę uczniów, przyznawanie punktów czy podejmowanie decyzji dotyczących dalszej ścieżki edukacyjnej.

AI Act obejmuje także wiele zastosowań związanych z administracją publiczną, wymiarem sprawiedliwości, ochroną granic oraz świadczeniami społecznymi.

Wyjątki od klasyfikacji wysokiego ryzyka

Nie każdy system działający w wymienionych obszarach automatycznie staje się systemem wysokiego ryzyka. Komisja Europejska wskazuje, że wyjątki powinny być interpretowane bardzo wąsko. Mogą one dotyczyć rozwiązań wykonujących wyłącznie zadania pomocnicze, proceduralne lub wspierające człowieka bez realnego wpływu na decyzje dotyczące konkretnej osoby.

Przykładowo narzędzie pomagające uporządkować dokumenty może nie zostać uznane za system wysokiego ryzyka. Zupełnie inaczej oceniany będzie system rekomendujący, którego kandydaci powinni zostać odrzuceni w procesie rekrutacji.

Kluczowe znaczenie ma więc rzeczywisty wpływ sztucznej inteligencji na sytuację obywatela.

Obowiązki dla systrmów wysokiego ryzyka

Jeżeli system zostanie zakwalifikowany jako wysokiego ryzyka, na jego dostawcę lub podmiot wdrażający spada szereg obowiązków.

Najważniejsze z nich obejmują:

• wdrożenie systemu zarządzania ryzykiem,
• zapewnienie odpowiedniej jakości danych wykorzystywanych do trenowania i działania modelu,
• prowadzenie szczegółowej dokumentacji technicznej,
• zapewnienie możliwości audytu działania systemu,
• utrzymywanie skutecznego nadzoru człowieka,
• monitorowanie działania rozwiązania po wdrożeniu.

AI Act zakłada, że organizacja musi być w stanie wykazać zgodność systemu z wymaganiami regulacyjnymi przez cały okres jego użytkowania.

Jak przedsiębiorca może zweryfikować swój system AI?

Pierwszym krokiem powinno być ustalenie, czy wykorzystywana sztuczna inteligencja wpływa na prawa, bezpieczeństwo lub sytuację życiową konkretnych osób. Następnie należy sprawdzić, czy dane zastosowanie znajduje się w katalogu obszarów wymienionych przez AI Act.

Eksperci zajmujący się zgodnością z regulacjami podkreślają, że sama technologia ma mniejsze znaczenie niż sposób jej wykorzystania. Ten sam model sztucznej inteligencji może podlegać zupełnie różnym obowiązkom w zależności od celu, do którego został wdrożony. Chatbot wspierający obsługę klienta zwykle nie będzie systemem wysokiego ryzyka. Ten sam model wykorzystany do podejmowania decyzji kredytowych lub rekrutacyjnych może już podlegać najbardziej rygorystycznym przepisom AI Act.