8 grudnia 2023 r. przedstawiciele Parlamentu Europejskiego, Komisji Europejskiej oraz Rady Unii Europejskiej zakończyli przeszło 30 godzinne rozmowy w ramach prowadzonych trójstronnych tajnych negocjacji, w zakresie uzgodnienia tekstu unijnego aktu o sztucznej inteligencji, tj. AI ACT. Z jakimi zatem wyzwaniami przyjdzie zmierzyć się przedsiębiorcom wobec wdrożenia projektowanej regulacji i jakie realne obawy towarzyszą przedsiębiorcom w związku z przyjęciem AI ACT?
AI ACT
Prace nad rozporządzeniem Parlamentu Europejskiego i Rady ustanawiającym zharmonizowane przepisy dotyczące sztucznej inteligencji (akt w sprawie sztucznej inteligencji) i zmieniającym niektóre akty ustawodawcze Unii Europejskiej trwały dwa lata i sfinalizowane zostały osiągniętym porozumieniem.
Nie ulega wątpliwości, że Unia Europejska jest już niemal u progu przyjęcia pierwszego w ustawodawstwie światowym aktu prawnego kompleksowo regulującego kwestię dotyczące sztucznej inteligencji. Projektowany akt nakłada także na przedsiębiorców, m.in. dostawców, operatorów, importerów i dystrybutorów nowe obowiązki, którym będą musieli sprostać, by spełnić wymogi prawne związane z przestrzeganiem określonych procedur.
Cele i założenia AI ACT
Artificial Intelligence Act, czyli akt o sztucznej inteligencji, w założeniu projektodawców ma ustanowić zharmonizowane przepisy dotyczące sztucznej inteligencji. Sam projekt stanowi odpowiedź na liczne wnioski Rady Europejskiej, jak i Parlamentu Europejskiego, akcentujących potrzebę kompleksowego uregulowania sztucznej inteligencji, celem zagwarantowania właściwego funkcjonowania rynku wewnętrznego AI, w tym wprowadzenia regulacji stanowiących odpowiedź na istniejące w tym obszarze zagrożenia.
Z całą pewnością sporym wyzwaniem dla projektodawcy będzie odnalezienie skutecznego i odpowiadającego praktyce kompromisu między sprostaniem wysokim wymogom w zakresie ochrony bezpieczeństwa i prywatności użytkowników systemów opartych na sztucznej inteligencji - a stworzeniem odpowiedniej przestrzeni dla dalszego rozwoju nowych technologii.
Projektodawcy aktu wychodzą z założenia, iż akt w sprawie sztucznej inteligencji stanie się zasadniczym dokumentem kreującym właściwe standardy poruszania się w obszarze struktur opartych na systemie sztucznej inteligencji. Natomiast wyniki tych prognoz ocenić będzie można dopiero z upływem pewnego czasu od wejścia w życie projektowanej regulacji.
- zapewnienie zgodności z prawem w obszarze praw podstawowych oraz bezpieczeństwa systemów sztucznej inteligencji wprowadzanych do obrotu i wykorzystywanych na terenie Unii Europejskiej,
- zagwarantowanie stabilności prawnej w prowadzonych inwestycjach w dziedzinie sztucznej inteligencji,
- usprawnienie zarządzania i egzekwowanie przepisów dotyczących praw podstawowych i wymogów bezpieczeństwa stosowanych w systemach AI.
Do głównych zagadnień znajdujących się w centrum projektowanej regulacji zaliczyć należy:
- ujednolicone przepisy regulujące wprowadzanie do obrotu, oddawanie do użytku oraz wykorzystywanie systemów sztucznej inteligencji na obszarze UE,
- szczególne wymagania dotyczące systemów AI opartych na wysokim ryzyku oraz obowiązki operatorów zarządzających takimi systemami,
- sprecyzowanie zakazanych praktyk w obszarze AI,
- harmonizację przepisów dotyczących czytelności funkcjonowania systemów AI zakładających wejście w interakcje z człowiekiem oraz samych systemów rozpoznawania emocji oraz kategoryzacji biometrycznej.
Przedsiębiorcy w kręgu zainteresowania AI ACT
Projektodawca wśród adresatów rozporządzenia wymienia, m.in przedsiębiorców, a wśród nich:
- operatorów sztucznej inteligencji znajdujących się na obszarze UE,
- dostawców wdrażających bądź oddających do użytku systemy sztucznej inteligencji na obszarze UE (niezależnie od tego, czy ich siedziba znajduje się w jednym z państw członkowskich UE czy poza wspólnotą),
- dostawców i operatorów AI zlokalizowanych na obszarze państw trzecich, jeśli efekty funkcjonowania wykorzystywanych przez nich systemów AI znajdują użytek na terenie państw wspólnoty UE.
Akt o sztucznej inteligencji powołuje się na trzy rodzaje podmiotów, tj. dostawców, drobnych dostawców oraz operatorów sztucznej inteligencji, zdefiniowanych w następujący sposób:
- Dostawca – osoba fizyczna lub prawna, organ publiczny, agencja lub inny podmiot, który opracowuje system sztucznej inteligencji lub zleca jego opracowanie w celu wprowadzenia go do obrotu lub oddania go do użytku pod własną nazwa handlową lub własnym znakiem towarowym – odpłatnie lub nieodpłatnie,
- Drobny dostawca – dostawca będący mikroprzedsiębiorstwem lub małym przedsiębiorstwem w rozumieniu zalecenia Komisji 2003/361/WE,
- Operator sztucznej inteligencji – osoba fizyczna lub prawna, organ publiczny, agencja lub inny podmiot, który korzysta z AI pod swoją kontrolą (wyjątek stanowi sytuacja, w której system sztucznej inteligencji wykorzystywany jest w ramach osobistej działalności pozazawodowej).
Kwalifikowanie przedsiębiorców jako operatorów systemów AI wysokiego ryzyka
Punktem rozporządzenia, który powinien wzbudzić szczególne zainteresowanie wśród przedsiębiorców, a precyzyjniej dostawców, importerów czy operatorów, z całą pewnością pozostają zasady określające warunki wdrażania systemów AI do obrotu bądź to oddawania ich do użytku.
Podmioty zainteresowane wprowadzeniem systemów opartych na AI, a w szczególności systemów AI znajdujących się w grupie tzw. wysokiego ryzyka, staną przed niemałym wyzwaniem sprostania obowiązkom nakładanym projektowanym aktem. AI ACT jako system wysokiego ryzyka odnosi do systemu zasadniczo spełniającego następujące warunki:
- system AI przeznaczony do wykorzystania, jako związany z bezpieczeństwem elementu produktu objętego ustawodawstwem UE, określonym w załączniku II do projektu rozporządzenia lub system AI, który samodzielnie jest takim produktem,
- produkt, którego związanym z bezpieczeństwem elementem jest system AI lub sam system AI jako produkt podlegający na podstawie ustawodawstwa UE określonego załącznikiem II do rozporządzenia ocenie zgodności dotyczącej zagrożeń dla zdrowia i bezpieczeństwa przeprowadzanej przez osobę trzecią, celem wprowadzenia tego produktu do obrotu lub oddania go do użytku.
Nowe obowiązki wyzwaniem dla przedsiębiorców
Dostawcy i operatorzy systemów AI znajdujących się w grupie tzw. wysokiego ryzyka będą musieli sprostać obowiązkom określonym w AI ACT. Konieczność organizacji systemu kontroli jakości oraz zarządzania takim systemem oraz przejścia procedury gwarantującej ich zgodność zanim ostatecznie znajdą się w użytku, to jedynie wybrane wymagania, które nałożone zostały na wskazaną grupę przedsiębiorców.
Dla importerów i dystrybutorów systemów AI opartych na wysokim ryzyku obligatoryjne będzie stworzenie odpowiednich procedur i w następstwie tego dokumentacji, potwierdzającej odpowiadanie wykorzystywanych systemów unijnym regulacjom i ich bezpieczeństwu. Powyższe uzupełniać ma wywiązanie się z obowiązku informacyjnego wobec właściwych organów, nadzorujących przedsiębiorców w zakresie spełniania przez nich obowiązujących wymogów.
Z kolei operatorzy systemów wysokiego ryzyka, celem możliwie najszerszego ograniczenia ryzyka oraz wystąpienia błędów, zobligowani będą do korzystania z systemów AI zgodnie
z wytycznymi i przy zagwarantowaniu z ich strony sprawowania należytego nadzoru przez człowieka nad używanym systemem AI.
W obszarze interakcji osób fizycznych z systemem AI, dostawcy systemów zapewnić muszą takie zaprojektowanie i rozwijanie ich struktur, by każdorazowo osoba fizyczna wchodząca
w interakcję ze sztuczną inteligencją informowana była w sposób jasny i niebudzący wątpliwości o nawiązaniu kontaktu nie z człowiekiem, a właśnie generatorem AI. Powyższe nie odnosi się do sytuacji, w których wykorzystania systemu wyraźnie wskazuje – biorąc pod uwagę okoliczności faktyczne – na występowanie systemu AI.
Obawy przedsiębiorców towarzyszące projektowi
Osiągnięte przez UE porozumienie w sprawie kształtu projektowanego aktu budzi zastrzeżenie szerokiego grona przedsiębiorców, przede wszystkim z uwagi na istotną rozbieżność między ostatecznie przyjętym projektem a pierwotnym założeniem przedstawionym przez projektodawcę.
Główne obawy przedsiębiorców związane są z ryzykiem hamowania rozwoju konkurencyjności zwłaszcza mniejszych przedsiębiorstw, konkurujących na rynku z korporacjami posiadającymi znaczny kapitał. Przedsiębiorców nie napawa optymizmem przedstawiony w ostatecznym projekcie sposób regulowania systemów AI nieuwzględniający rzeczywistego cyklu dostaw czy nakładający na dostawców niemożliwe, względnie utrudnione obowiązki, mogące skutecznie hamować konkurencyjność na rynku.
Te i inne obawy towarzyszące projektowi będą możliwe do zweryfikowania dopiero z upływem określonego czasu od wejścia w życie aktu o sztucznej inteligencji.
Podstawa prawna:
Projekt rozporządzenia Parlamentu Europejskiego i Rady ustanawiający zharmonizowane przepisy dotyczące sztucznej inteligencji (akt w sprawie sztucznej inteligencji) i zmieniający niektóre akty ustawodawcze Unii.
Materiał opracowany przez zespół „Tak Prawnik”.
Właścicielem marki „Tak Prawnik” jest BZ Group Sp. z o.o.
