AI Act

Firma może zbudować proces, w którym sztuczna inteligencja przygotowuje rekomendację, a ostateczną decyzję formalnie zatwierdza pracownik. Na papierze człowiek pozostaje więc w centrum procesu. AI Act wymaga jednak, aby nadzór nad systemami wysokiego ryzyka był skuteczny, a nie sprowadzony do obecności osoby, która automatycznie akceptuje kolejne wyniki. Pracownik powinien rozumieć ograniczenia systemu, mieć odpowiednie kompetencje i rzeczywiste uprawnienia do zakwestionowania rekomendacji.

ChatGPT, Gemini, Copilot i Claude należą dziś do najpopularniejszych narzędzi generatywnej sztucznej inteligencji wykorzystywanych przez firmy i użytkowników indywidualnych. Wraz z wejściem w życie kolejnych przepisów AI Act pojawia się pytanie, czy rozwiązania te spełniają wymogi unijnego prawa. Odpowiedź nie jest jednoznaczna, ponieważ AI Act nakłada różne obowiązki na dostawców modeli oraz na organizacje wykorzystujące je w praktyce.

Wykorzystanie sztucznej inteligencji do monitorowania pracowników przestaje być futurystyczną wizją. Narzędzia analizujące wydajność, aktywność na komputerze, komunikację czy proces rekrutacji są już obecne w wielu organizacjach. Unijny AI Act nie zakazuje ich stosowania, ale nakłada szereg ograniczeń, zwłaszcza gdy system może wpływać na decyzje dotyczące zatrudnienia, awansu lub zwolnienia pracownika.

Unijne przepisy dotyczące sztucznej inteligencji przestają być jedynie planem legislacyjnym. AI Act, czyli Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689, jest stopniowo wdrażane we wszystkich państwach członkowskich. Część regulacji obowiązuje już od lutego 2025 r., kolejne weszły w życie w sierpniu ubiegłego roku, a od 2 sierpnia 2026 r. zacznie obowiązywać większość przepisów mających bezpośredni wpływ na przedsiębiorców, instytucje publiczne oraz podmioty wykorzystujące sztuczną inteligencję w działalności operacyjnej. Naruszenie nowych wymogów może skutkować karami sięgającymi nawet 35 mln euro lub 7 proc. globalnego rocznego obrotu przedsiębiorstwa.

Większość organizacji wierzy, że wdraża sztuczną inteligencję. W rzeczywistości wdraża coś znacznie bardziej niebezpiecznego: brak decyzji. Skoro AI nie podejmuje decyzji to kto naprawdę decyduje?

W związku z nadchodząca publikacją "Białej Księgi Regulacji Cyfrowych" redakcja Infor.pl zadała pytania Patrycji Sass-Staniszewskiej, prezes Izby Gospodarki Elektronicznej. Rozmowa dotyczy tego, czy europejskie i krajowe prawo nadąża za tempem zmian technologicznych, jak nowe regulacje uderzają w przedsiębiorców zwłaszcza z sektora MSP oraz co w praktyce oznaczają dla konsumentów. Poniżej prezentujemy pełne odpowiedzi.

Bruksela przesadza z regulacjami? Prezes UODO twierdzi coś odwrotnego: na deepfake’i UE wciąż nie ma kompletnych narzędzi, a Polska powinna dopisać własne, ostrzejsze przepisy. Po wecie prezydenta do ustawy wdrażającej DSA temat wraca na stół – i może wrócić z większą siłą.

AI Act to rdzeń prawny dla uregulowania zasad handlu i stosowania technologii ze sztuczną inteligencją w Unii Europejskiej. Ten kluczowy dokument, który można sklasyfikować w segmencie prawa materialnego należy czytać przede wszystkim jako listę „zakazów” dla pełnej wolności gospodarczej w szczytnym celu: mianowicie chodzi o utrzymanie właściwej równowagi pomiędzy ochroną rynku a konkurencyjnością Europy wobec innych rynków światowych.

Sztuczna inteligencja zdobywa coraz większą rolę w tworzeniu dzieł – od opowiadań, przez obrazy, aż po muzykę. Jednak prawo autorskie wciąż nie nadąża za tempem rozwoju technologii. Kto chroni twórców, gdy SI staje się współautorem? Unijne regulacje AI Act i rosnąca liczba pozwów mogą przynieść zmiany w ochronie twórczości w erze cyfrowej.

UE chce uregulować sztuczną inteligencję. Parlament Europejski już przyjął rozporządzenie w tej sprawie, tzw. Artificial Intelligence Act (AI Act). Określa ono jakie praktyki stosowania AI są zakazane, a które niosą ze sobą wysokie ryzyko. Większość nowych obowiązków spoczywa na dostawcach systemów sztucznej inteligencji wysokiego ryzyka. Grożą kary nawet do 35 mln euro.