Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 (AI Act) wprowadza nowe obowiązki dotyczące sztucznej inteligencji. Kluczowe jest zrozumienie, jakie dokładnie systemy objęte AI Act podlegają nowym regulacjom. Przeczytaj poniższy artykuł i dowiedz się, które technologie i zastosowania AI będą musiały spełnić rygorystyczne unijne wymogi.
Definicja systemu AI i modelu AI w rozumieniu AI Act
Celem AI Act jest poprawa funkcjonowania rynku wewnętrznego przez ustanowienie jednolitych ram prawnych, w szczególności w zakresie rozwoju, wprowadzania do obrotu, oddawania do użytku i wykorzystywania systemów sztucznej inteligencji w Unii, zgodnie z wartościami Unii, w celu promowania upowszechniania zorientowanej na człowieka i godnej zaufania sztucznej inteligencji przy jednoczesnym zapewnieniu wysokiego poziomu ochrony zdrowia, bezpieczeństwa, praw podstawowych zapisanych w Karcie praw podstawowych Unii Europejskiej, w tym demokracji, praworządności i ochrony środowiska, ochrony przed szkodliwymi skutkami systemów AI w Unii, a także wspierania innowacji.
System AI według AI Act oznacza system maszynowy, który został zaprojektowany do działania z różnym poziomem autonomii po jego wdrożeniu oraz który może wykazywać zdolność adaptacji po jego wdrożeniu, a także który – na potrzeby wyraźnych lub dorozumianych celów – wnioskuje, jak generować na podstawie otrzymanych danych wejściowych wyniki, takie jak predykcje, treści, zalecenia lub decyzje, które mogą wpływać na środowisko fizyczne lub wirtualne.
Elementy definicji systemu AI w rozumieniu AI Act:
- system maszynowy – w takim rozumieniu, że system ten działa na infrastrukturze, w tym oprogramowaniu, które umożliwiają działanie systemu;
- autonomia systemu – system ma możliwość funkcjonowania bez interwencji człowieka (system, który zawsze wymaga interwencji człowieka, nie będzie spełniał definicji);
- adaptacyjność – może zmieniać działanie w trakcie funkcjonowania (fakultatywny element definicji);
- cel – działanie w określonym lub dorozumianym celu;
- mechanizm wnioskowania – system wnioskuje, jak generować wyniki na podstawie analizy danych wejściowych (warunku nie spełniają np. proste predykcje oparte na metodach statystycznych);
- generowanie wyników – skutkiem działania systemu jest wygenerowany wynik, taki jak predykcja, zalecenie lub decyzja;
- wpływ wyników – fakultatywny element mówiący o wpływie wygenerowanych wyników na środowisko fizyczne lub wirtualne.
Na potrzeby AI Act środowiska należy rozumieć jako konteksty, w których działają systemy AI, natomiast wyniki generowane przez system AI odzwierciedlają różne funkcje wykonywane przez systemy AI i obejmują predykcje, treści, zalecenia lub decyzje.
Systemy AI są zaprojektowane tak, aby działały z różnym poziomem autonomii, co oznacza, że są w pewnym stopniu niezależne od zaangażowania ze strony człowieka i zdolne do działania bez interwencji człowieka.
Zdolność adaptacji, jaką system AI może wykazać po jego wdrożeniu, odnosi się do zdolności do samouczenia się, która umożliwia zmianę systemu w czasie jego wykorzystywania. Systemy AI mogą być wykorzystywane jako samodzielne rozwiązania lub jako element produktu, niezależnie od tego, czy system jest fizycznie zintegrowany z produktem (wbudowany), czy też służy realizacji funkcji produktu, choć nie jest z nim zintegrowany (niewbudowany).
Jakie systemy nie spełniają wymogów definicyjnych AI Act?
Wymogów definicyjnych AI Act nie spełniają w szczególności systemy służące do ulepszania optymalizacji matematycznej. Chociaż systemy te mogą zawierać elementy samoadaptacji, te elementy są adresowane do optymalizacji funkcjonowania systemów poprzez poprawę ich wydajności obliczeniowej, a nie np. do umożliwienia inteligentnego dostosowywania ich modeli podejmowania decyzji. W tych warunkach mogą być wyłączone z definicji systemu AI.
Systemy służące do podstawowego przetwarzania danych również nie stanowią systemu AI w rozumieniu AI Act. Chodzi o takie systemy, które podążają za wstępnie zdefiniowanymi, wyraźnymi instrukcjami lub operacjami. Systemy te są opracowywane i wdrażane w celu wykonywania zadań na podstawie ręcznych danych wejściowych lub reguł, bez żadnego „uczenia się, rozumowania lub modelowania” na żadnym etapie cyklu życia systemu.
Nie będą klasyfikowane jako systemy Ai systemy oparte na klasycznych heurystykach. Klasyczne heurystyki zazwyczaj obejmują podejścia oparte na regułach, rozpoznawanie wzorców lub strategie prób i błędów, a nie uczenie się oparte na danych. W przeciwieństwie do nowoczesnych systemów uczenia maszynowego, które dostosowują swoje modele na podstawie relacji wejścia-wyjścia, klasyczne systemy heurystyczne stosują wstępnie zdefiniowane reguły lub algorytmy w celu wyprowadzenia rozwiązań.
Podobnie sytuacja wygląda z prostymi systemami predykcyjnymi. Wszystkie systemy oparte na maszynach, których wydajność można uzyskać za pomocą podstawowej reguły uczenia statystycznego, choć technicznie można je sklasyfikować jako systemy bazujące na metodach uczenia maszynowego, nie mieszczą się w zakresie definicji systemu AI ze względu na ich wydajność.
Przykład 1.
W prognozowaniu finansowym proste systemy predykcyjne oparte na maszynach mogą być używane do przewidywania przyszłych cen akcji poprzez użycie estymatora ze strategią „średniej” w celu ustalenia prognozy bazowej (np. zawsze przewidując średnią cenę historyczną). Innym przykładem jest użycie średniej temperatury z poprzedniego tygodnia do przewidywania temperatury jutrzejszej. Ten system bazowy jedynie szacuje średnie, ale nie osiąga wydajności bardziej złożonych systemów prognozowania szeregów czasowych, które wymagałyby bardziej wyrafinowanych modeli. Tego rodzaju systemy nie będą klasyfikowane jako systemy AI w rozumieniu AI Act.
Systemy objęte AI Act a model AI
Oprócz definicji systemu AI, AI Act wprowadza również pojęcie modelu AI. Chociaż modele AI są zasadniczymi elementami systemów AI, nie stanowią same w sobie systemów AI. Aby model AI mógł stać się systemem AI, należy dodać do niego dodatkowe elementy, takie jak np. interfejs użytkownika. Modele AI są zwykle zintegrowane z systemami AI i stanowią ich część.
AI Act definiuje tzw. model AI ogólnego przeznaczenia, czyli model AI, w tym model AI trenowany dużą liczbą danych z wykorzystaniem nadzoru własnego na dużą skalę, który wykazuje znaczną ogólność i jest w stanie kompetentnie wykonywać szeroki zakres różnych zadań, niezależnie od sposobu, w jaki model ten jest wprowadzany do obrotu, i który można zintegrować z różnymi systemami lub aplikacjami niższego szczebla – z wyłączeniem modeli AI, które są wykorzystywane na potrzeby działań w zakresie badań, rozwoju i tworzenia prototypów przed wprowadzeniem ich do obrotu.
Z kolei system AI ogólnego przeznaczenia zgodnie z AI Act oznacza system AI oparty na modelu AI ogólnego przeznaczenia, który to system może służyć różnym celom, nadający się zarówno do bezpośredniego wykorzystania, jak i do integracji z innymi systemami AI.
Do jakich systemów AI nie stosuje się AI Act?
AI Act nie stosuje się do systemów AI, jeżeli – i w zakresie, w jakim – wprowadzono je do obrotu, oddano do użytku lub są one wykorzystywane, ze zmianami lub bez zmian, wyłącznie do celów wojskowych, obronnych lub do celów bezpieczeństwa narodowego, niezależnie od rodzaju podmiotu prowadzącego te działania.
Podobnie AI Act nie stosuje się do systemów AI, które nie zostały wprowadzone do obrotu ani oddane do użytku w Unii, a których wyniki są wykorzystywane w Unii wyłącznie do celów wojskowych, obronnych lub do celów bezpieczeństwa narodowego, niezależnie od rodzaju podmiotu prowadzącego te działania.
AI Act nie stosuje się do systemów AI lub modeli AI, w tym ich wyników, rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych.
Aktu w sprawie sztucznej inteligencji nie stosuje się do żadnej działalności badawczej, testowej ani rozwojowej dotyczącej systemów AI lub modeli AI przed wprowadzeniem ich do obrotu lub oddaniem ich do użytku. Działalność tego rodzaju prowadzona jest zgodnie z mającym zastosowanie prawem Unii. Niniejsze wyłączenie nie obejmuje testów w warunkach rzeczywistych.
Podobnie nie stosuje się rozporządzenia do obowiązków podmiotów stosujących będących osobami fizycznymi, które korzystają z systemów AI w ramach czysto osobistej działalności pozazawodowej.
Analogiczna sytuacja dotyczy systemów AI udostępnianych na podstawie bezpłatnych licencji otwartego oprogramowania, chyba że systemy te są wprowadzane do obrotu lub oddawane do użytku jako systemy AI wysokiego ryzyka lub jako system AI objęty zakazaną praktyką lub systemów AI ogólnego zastosowania.
Polecamy:
