13 marca 2024 r. Parlament Europejski uchwalił AI Act, który obecnie oczekuje na formalne zatwierdzenie przez Radę UE. Jako rozporządzenie, regulacja ta będzie stosowana bezpośrednio przez państwa członkowskie UE.
Czym jest AI Act?
AI Act określa zasady w zakresie wykorzystywania, monitorowania i przejrzystości a także nadzoru nad AI. Chodzi zatem zarówno o wymogi związane z wprowadzeniem systemu czy modelu AI do obrotu, jak i dalszego ich wykorzystania. Wymogi i zasady będą się różniły w zależności od roli, ale głównie od kategorii rozwiązania AI oraz ryzyka, które zostanie przypisane do tej kategorii.
Kategorie ryzyka zastosowania systemów opartych na sztucznej inteligencji
AI Act określa kategorie ryzyka związane z wykorzystaniem sztucznej inteligencji. Wyróżnia się cztery kategorie ryzyka: niedopuszczalne ryzyko, wysokie ryzyko, średnie ryzyko i niskie ryzyko. Wszystkie kategorie mają określone wymagania i ograniczenia dotyczące wykorzystywania sztucznej inteligencji.
Systemy sztucznej inteligencji wysokiego ryzyka
Systemy sztucznej inteligencji wysokiego ryzyka to systemy wymienione w Załączniku III do AI Act, to m.in. systemy identyfikacji biometrycznej, systemy wykorzystywane w ramach infrastruktury krytycznej czy przeznaczone do celów rekrutacji, w tym filtrowania podań o pracę czy oceny kandydatów.
Na mocy AI Act podmioty wykorzystujące systemy wysokiego ryzyka zobowiązane będą do dokonania oceny działania takich systemów pod kątem wpływu na prawa podstawowe osób fizycznych (tzw. FRIA – fundamental rights impact assesment) oraz wdrożenia odpowiednich środków bezpieczeństwa. AI Act przyznaje także osobom, których prawa zostały naruszone decyzją wydaną z wykorzystaniem AI, do wniesienia skargi do właściwego organu państwowego, a także zaskarżenia decyzji (lub bezczynności) takiego organu do sądu.
Kary administracyje w AI Act
AI Act ustanawia ogólne ramy i wytyczne odnośnie nakładania kar, m.in. ich maksymalną wysokość, jednakże to państwa członkowskie będą miały obowiązek ustanowienia przepisów krajowych, które uregulują to zagadnienie bardziej szczegółowo.
Za najpoważniejsze naruszenia AI Act przewidziano maksymalną karę pieniężną w wysokości do 35 000 000 EUR lub – jeżeli naruszenia dopuszcza się przedsiębiorstwo – w wysokości do 7 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, przy czym zastosowanie ma kwota wyższa.
Kiedy AI Act wejdzie w życie?
AI Act wejdzie w życie 20 dni po jego ogłoszeniu w dzienniku urzędowym UE, jednak znaczna większość przepisów będzie obowiązywała dopiero po upływie kolejnych 24 miesięcy. Oznacza to, że będzie dwuletni okres, aby dostosować się do wymogów regulacji. Jednakże warto wskazać, że niektóre przepisy zaczną obowiązywać już wcześniej, tj. po 6 lub 12 miesiącach od wejścia w życie AI Act. Dotyczy to np. zakazanych sposobów wykorzystania AI czy wybranych kar administracyjnych.