Publikacje

10 lutego na stronie Rządowego Centrum Legislacji opublikowano nowy projekt ustawy o systemach sztucznej inteligencji. Uwzględnia on propozycje zmian zgłoszone podczas pierwszej tury konsultacji społecznych. W porównaniu do pierwotnej wersji projekt wprowadza przede wszystkim:

• nowe rozwiązania legislacyjne, takie jak „piaskownice regulacyjne” i „układ w sprawie warunków złagodzenia sankcji
• zmianę składu organu nadzorczego – Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji („Komisji”) oraz
• modyfikację zasad nadzoru nad podmiotami objętymi przepisami AI Act,

Poniżej przedstawiamy krótką analizę zmian wprowadzonych w stosunku do pierwszej wersji projektu  ustawy.

Piaskownice regulacyjne

Jedną z najważniejszych nowości w porównaniu z pierwotną wersją projektu ustawy jest dodanie rozdziału 8 zatytułowanego „Środki wspierające innowacyjność” (art. 85-96). Odnosi się on do tzw. piaskownic regulacyjnych, o których mowa m.in. w art. 57 i n. AIA. Zgodnie z rozporządzeniem ich celem jest zapewnienie kontrolowanego środowiska sprzyjającego innowacjom oraz ułatwiającego rozwój, testowanie i walidację innowacyjnych systemów AI przez ograniczony czas przed ich wprowadzeniem do obrotu lub oddaniem do użytku. Przepisy projektowanej ustawy wskazują przy tym jedynie ogólne kryteria kwalifikowania się do piaskownicy, co rodzi pytanie o szczegółowe wytyczne i procedury oceny wniosków. Brak precyzji może oznaczać, że organ przyznający dostęp do programu będzie się opierał na interpretacjach wewnętrznych, co może prowadzić do niejednolitej praktyki i potencjalnego ryzyka faworyzowania niektórych innowacyjnych przedsięwzięć kosztem innych.

Przewodniczący Komisji ma zostać wyposażony w kompetencje do ustanowienia takiej piaskownicy regulacyjnej. W jej ramach, przez maksymalnie rok, możliwa będzie wymiana najlepszych praktyk w zakresie AI, wzmacnianie innowacyjności i konkurencyjności oraz ułatwianie i przyspieszanie dostępu do rynku UE dla MŚP. Opłata za udział w piaskownicy wyniesie maksymalnie czterokrotność minimalnego wynagrodzenia (obecnie 18 664 zł). Nie obejmie jednak MŚP, które zostaną z niej zwolnione. Udział w piaskownicy będzie możliwy po zakwalifikowaniu się w drodze konkursu organizowanego nie rzadziej niż trzy razy w roku. Do udziału w nim będą mogły zgłaszać się podmioty, których projekt realizuje co najmniej jedno z następujących założeń:

• poprawa rynku AI, o którym mowa w art. 57 ust. 9 AIA,
• osiągnięcie celów strategii cyfryzacji,
• wskazanie istniejących barier regulacyjnych, które uniemożliwiają realizację projektu bez zakwalifikowania do uczestnictwa w piaskownicy regulacyjnej.

Oprócz spełnienia kryteriów zgodności prawnej, podmiot uczestniczący w piaskownicy regulacyjnej będzie zobowiązany poinformować wszystkie osoby, na które jego działalność oddziałuje, o swoim udziale – przede wszystkim poprzez zamieszczenie stosownej informacji na swojej stronie internetowej.

Nowy skład Komisji

Najnowszy projekt ustawy wprowadza istotne zmiany w składzie Komisji. Jak wskazano w uzasadnieniu do projektu, jego autorzy wzorowali się na strukturze Komisji Nadzoru Finansowego, w związku z czym Komisja ma łączyć przedstawicieli różnych organów i regulatorów. W przeciwieństwie jednak do nadzorcy rynku bankowego i finansowego, w skład Komisji nie będą wchodzić przedstawiciele poszczególnych ministerstw, co ma na celu ograniczenie wpływu czynników politycznych na jej decyzje.

Warto zauważyć, że ze składu Komisji usunięto również przedstawiciela Prezesa Urzędu Ochrony Danych Osobowych oraz Rzecznika Praw Obywatelskich. Zwłaszcza w tym drugim przypadku może budzić to wątpliwości, biorąc pod uwagę, że członkiem Komisji pozostał przedstawiciel Rzecznika Praw Dziecka. Niemniej jednak Przewodniczący Komisji będzie mógł zapraszać na posiedzenia (z głosem doradczym) upoważnionego przedstawiciela podmiotu publicznego, jeśli sprawa dotyczy jego właściwości. Do składu Komisji dodano natomiast przedstawiciela Prezesa Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych. Zmianie uległ także tryb powoływania Przewodniczącego Komisji. Zmiana ta ma zwiększyć niezależność Przewodniczącego Komisji. Zgodnie bowiem z nową propozycją będzie on powoływany przez Sejm za zgodą Senatu na pięcioletnią kadencję. W poprzedniej wersji zadanie to przysługiwało wyłącznej kompetencji Prezesa Rady Ministrów.

Wraz z usunięciem przedstawicieli Prezesa UODO oraz Rzecznika Praw Obywatelskich pojawia się wątpliwość, czy w składzie Komisji nie zabraknie głosu instytucji odgrywających kluczową rolę w ochronie praw i wolności obywateli w kontekście przetwarzania danych osobowych. Ta decyzja może osłabić nadzór nad przestrzeganiem standardów wynikających z RODO, zwłaszcza że wyłączono jednocześnie organ wyspecjalizowany w ochronie konstytucyjnych praw i wolności.

Zmiany w zakresie uprawnień kontrolnych Komisji

Względem pierwszej wersji projektu ustawy zmieniono także charakter przeprowadzanych kontroli (w tym poszczególnych czynności). W poprzedniej wersji przepisy przewidywały, że kontrola będzie co do zasady przeprowadzana zdalnie, a odstępstwa od tej reguły były dopuszczalne w uzasadnionych przypadkach, tj. zwłaszcza, gdy ze względy na brak możliwości zastosowania takich środków nie było to możliwe, stosowano przesyłki rejestrowane lub kurierskie. W nowej wersji projekt zakłada, że kontrola będzie mogła odbywać się wyłącznie zdalnie, chyba że zaistnieje ściśle określona sytuacja, tj. gdy działanie lub konstrukcja systemu AI lub podejrzenie wystąpienia szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych wynikających z wprowadzenia lub oddania do użytku takich systemów przemawiać będą za przeprowadzeniem kontroli w miejscu prowadzenia działalności podmiotu kontrolowanego. Projekt ustawy nie definiuje jednak wprost, jak dokładnie będzie wyglądała procedura kontroli zdalnej. Nie ma wyraźnego wskazania, czy np. obowiązkowy będzie zdalny dostęp do serwerów czy konieczność złożenia wyjaśnień drogą elektroniczną. Brak tych szczegółów może prowadzić do niejasności procedur dla kontrolowanych podmiotów co do zakresu i formy współpracy z Komisją, zwłaszcza w pierwszych latach jej działania.

Układy w sprawie warunków złagodzenia sankcji – quasi czynny żal na gruncie regulacji AI

W nowym projekcie wprowadzono również instytucję „układu w sprawie warunków złagodzenia sankcji”. Upoważnia ona Komisję do złagodzenia sankcji, jeśli przyczyni się to do przyspieszenia postępowania lub lepszej realizacji celów AIA. Układ ten może zostać zawarty wyłącznie w ściśle określonych przypadkach, tj.:

• gdy podmiot objęty postępowaniem zaprzestał naruszenia lub usunął stan niezgodności z prawem;
• gdy ujawnił Komisji wszystkie okoliczności dotyczące naruszenia objętego postępowaniem, w tym współdziałające z nim osoby lub podmioty, oraz przedstawił dowody na poparcie tych okoliczności.

Z wnioskiem o zawarcie takiego układu będzie mogła wystąpić strona postępowania. W każdym przypadku Komisja wyznacza termin nie dłuższy niż 1 miesiąc na przystąpienie do układu. W ramach układu strona będzie mogła zobowiązać się do usunięcia skutków naruszenia oraz naprawienia wyrządzonych szkód w określonym terminie. W takiej sytuacji Komisja będzie mogła obniżyć karę pieniężną w przedziale od 20% do 70% pierwotnej wysokości. Jednak w przypadku, gdy przepisy prawa przewidują możliwość jednoczesnego nałożenia kary pieniężnej oraz dodatkowych sankcji, takich jak zakaz, nakaz lub inne środki, złagodzenie sankcji może polegać na odstąpieniu od ich nałożenia i zastosowaniu wyłącznie kary pieniężnej, obniżonej w przedziale 30%-80% pierwotnej wysokości. Ponadto, w nadzwyczajnych sytuacjach, tj. gdy wszystkie skutki naruszenia zostaną usunięte, Komisja może całkowicie odstąpić od nałożenia administracyjnej kary pieniężnej.

Opinie indywidualne zamiast interpretacji indywidualnych

Nowy projekt zmienia również regulacje dotyczące tzw. interpretacji indywidualnej, która w obecnym brzmieniu jest określana jako opinia indywidualna. Będzie ona wydawana w konkretnych sprawach dotyczących określonego stanu faktycznego, odpłatnie (po wniesieniu opłaty w wysokości 150 zł), w terminie 30 dni od dnia złożenia wniosku. W przypadkach szczególnie skomplikowanych termin ten będzie mógł zostać wydłużony do 60 dni. Nieudzielenie opinii w wyznaczonym terminie będzie oznaczać uznanie stanowiska przedstawionego we wniosku za zgodne z prawem. Należy jednak podkreślić, że opinia indywidualna nie będzie wiążąca ani dla Komisji, ani dla podmiotu składającego wniosek. Wyjątkiem jest sytuacja, w której podmiot ten zastosuje się do treści opinii indywidualnej – wówczas działania podjęte na jej podstawie nie będą mogły stanowić podstawy do nałożenia przez Komisję sankcji administracyjnej.

W praktyce kluczowe będzie, czy opinie indywidualne, choć nie są wiążące dla Komisji, będą stanowić dostateczne zapewnienie bezpieczeństwa prawnego dla przedsiębiorców. W sytuacji ciągłego rozwoju technologii AI może się okazać, że opinie z biegiem czasu będą wymagały aktualizacji, zwłaszcza jeśli Komisja zmieni swoje stanowisko w zakresie interpretacji poszczególnych przepisów.

Podsumowanie

Nowy projekt ustawy o systemach sztucznej inteligencji wprowadza istotne zmiany, obejmujące kilka kluczowych obszarów. Jednym z najważniejszych elementów jest wprowadzenie rozdziału 8 dotyczącego piaskownicy regulacyjnej, czyli mechanizmu wspierającego innowacyjność, który umożliwi testowanie systemów AI w kontrolowanym środowisku przed ich wprowadzeniem na rynek.

Kolejna znacząca modyfikacja dotyczy składu Komisji. Usunięto z niego przedstawicieli Prezesa UODO oraz Rzecznika Praw Obywatelskich, natomiast dodano reprezentanta Prezesa Urzędu Rejestracji Produktów Leczniczych. Dodatkowo projekt przewiduje, że Przewodniczący Komisji będzie powoływany przez Sejm za zgodą Senatu, co ma na celu zwiększenie niezależności tego organu.

Zmiany objęły również zasady kontroli. Nowe przepisy zakładają, że co do zasady kontrole będą przeprowadzane w sposób zdalny, a inspekcje stacjonarne będą dopuszczalne jedynie w uzasadnionych przypadkach, np. gdy istnieje podejrzenie poważnych zagrożeń dla życia, zdrowia lub bezpieczeństwa.

W projekcie przewidziano także wprowadzenie układu w sprawie warunków złagodzenia sankcji, który pozwoli na redukcję kar dla podmiotów współpracujących z Komisją w celu usunięcia naruszeń. Mechanizm ten ma na celu przyspieszenie postępowań oraz skuteczniejszą realizację celów regulacyjnych.

Ostatnią istotną zmianą jest wprowadzenie opinii indywidualnych w miejsce interpretacji indywidualnych. Nie będą one miały charakteru wiążącego, chyba że podmiot zdecyduje się postępować zgodnie z ich treścią, co w takim przypadku wykluczy możliwość nałożenia sankcji administracyjnych.