Sztuczna inteligencja, chociaż potrafi zdziałać cuda, nie jest nieomylna. Jest to w końcu zestaw linii kodu programistycznego, który w jakimś miejscu może zawierać błąd. Co więcej, algorytm AI może być zaprogramowany świadomie w ten sposób, aby nie przestrzegał niektórych przepisów prawa (patrz prawa autorskie). Postępu technologicznego już nie cofniemy, pozostało nam zatem nauczyć się żyć ze sztuczną inteligencją, funkcjonować obok niej i korzystać z jej możliwości. Zrozumiał to również prawodawca, który aktualnie stawia niepewne kroki w kierunku uregulowania zagadnień związanych z tą kwestią. Bardzo ważne w tej materii jest ustalenie zasad odpowiedzialności za szkody wyrządzone przez AI, tak aby symbioza człowieka z jego wirtualnym odpowiednikiem przebiegała bez degradacji praw i wolności otrzymanych przez tego pierwszego.
Szkody wyrządzone przez AI – co na to Unia Europejska?
Szybki rozwój sztucznej inteligencji i powstające wraz z nią zagrożenia to problem globalny. Dlatego nie dziwi, że za regulacje tego obszaru wzięła się Unia Europejska. Mimo że jeszcze jej nie wprowadzono, to na stronie Parlamentu Europejskiego możemy znaleźć projekt rezolucji Parlamentu Europejskiego z zaleceniami dla Komisji w sprawie systemu odpowiedzialności cywilnej za sztuczną inteligencję (2020/2014(INL)). Projekt ten zawiera m.in. szkielet przyszłego rozporządzenia w przedmiocie odpowiedzialności za szkody wyrządzone przez AI oraz uzasadnienie do tego aktu. Znajdziemy tam również opinie Komisji Rynku Wewnętrznego i Ochrony Konsumentów w sprawie tej regulacji. Wszystko to łącznie daje nam pogląd na to, jak w niedługim czasie może wyglądać odpowiedzialność za działania sztucznej inteligencji.
Sztuczna inteligencja – czym jest?
W świetle omawianego projektu rozporządzenia musimy przybliżyć definicję nie tylko samej sztucznej inteligencji, ale również innych podmiotów czy zdarzeń związanych z odpowiedzialnością AI za wyrządzenie szkody. Spójrzmy zatem, co na ten temat myśli Parlament Europejski.
System sztucznej inteligencji oznacza system, który opiera się na oprogramowaniu albo jest wbudowany w urządzenia, wykazuje się zachowaniem symulującym inteligencję m.in. na podstawie gromadzenia i przetwarzania danych, analizowania i wyciągania wniosków dotyczących otoczenia oraz podejmuje działania w pewnym stopniu autonomicznie, aby osiągnąć konkretne cele.
Osoba, która kontroluje sztuczną inteligencję to operator. Może być on operatorem „front-end” oraz „back-end”. Operator „front-end” oznacza osobę fizyczną lub prawną, która do pewnego stopnia kontroluje ryzyko związane z działaniem systemu sztucznej inteligencji i czerpie korzyści z jego działania. Z kolei operator „back-end” oznacza osobę fizyczną lub prawną, która w sposób ciągły określa cechy technologii, dostarcza dane i podstawowe usługi wsparcia, a zatem też sprawuje pewną kontrolę nad ryzykiem związanym z działaniem systemu AI.
Następnie zajmijmy się osobą poszkodowaną. Zgodnie z rozporządzeniem „poszkodowanym” może być dowolna osoba, która ucierpiała lub odniosła szkodę na skutek fizycznego lub wirtualnego działania, urządzenia lub procesu wykorzystującego system sztucznej inteligencji, a która nie jest jednocześnie operatorem.
Na koniec wyjaśnijmy definicję „szkody” – oznacza ona negatywny wpływ na życie, zdrowie i nienaruszalność cielesną osoby fizycznej, na własność osoby fizycznej lub prawnej albo negatywny wpływ powodujący poważną szkodę niematerialną skutkującą możliwą do zweryfikowania stratą ekonomiczną.
Kto odpowiada za szkody wyrządzone przez AI?
Zgodnie z powyżej przytoczonymi definicjami za szkody wyrządzone przez AI odpowiada człowiek lub osoba prawna. Chodzi tu o operatora i producenta, gdyż to oni do pewnego stopnia mają możliwość kontrolowania działania sztucznej inteligencji oraz ryzyka z nią związanego.
Na chwilę obecną przyjmuje się, że sztuczna inteligencja, będąca w gruncie rzeczy maszyną, czyli tworem człowieka, nie może mieć zdolności prawnej. Tym samym jej działania nie mogą być jej przypisywane jako podmiotowi prawa. AI nie ma tożsamości prawnej, nie może pozywać i być pozywana. Tak jak nie może ona zostać autorem wykonanych przez siebie tworów i rozwiązań, tak również nie może ponosić odpowiedzialności za swoje działanie. Trudno wyobrazić sobie sytuację, w której w przypadku wypadku samochodowego spowodowanego przez AI, to komputer bierze na siebie odpowiedzialność finansową za powstałe szkody lub zostaje skazany na karę pozbawienia wolności.
Szkody wyrządzone przez AI a zasady ponoszenia odpowiedzialności
Unijny prawodawca ustalił 2 rodzaje odpowiedzialności:
- na zasadzie winy,
- na zasadzie ryzyka.
Odpowiedzialność na zasadzie winy obejmuje szkody spowodowane przez działanie systemu sztucznej inteligencji oraz działanie urządzenia sterowanego przez ten system, jeżeli operator ponosi winę w wystąpieniu zdarzenia wywołującego szkodę. Warto przy tym podkreślić, że ten rodzaj odpowiedzialności będzie należało stosować do każdej szkody wyrządzonej przez AI, innej niż szkoda wyrządzona przez sztuczną inteligencję obarczoną wysokim ryzykiem. W praktyce oznacza to, że operator może zostać zwolniony z odpowiedzialności, jeżeli zdoła udowodnić, że szkoda powstała w wyniku zaistnienia siły wyższej, ingerencji osoby trzeciej lub działania samego poszkodowanego.
Drugi typ odpowiedzialności został oparty o zasadę ryzyka. Rodzaj ten nie pozwala na zwolnienie się z odpowiedzialności za wyrządzoną szkodę poprzez wykazanie braku winy. Jak wskazuje rozporządzenie, odnosi się ona bezpośrednio do podmiotów wdrażających systemy AI wysokiego ryzyka. Wysokie ryzyko systemu sztucznej inteligencji oznacza znaczącą możliwość wyrządzenia przez autonomicznie działające AI losowo występujących szkód w taki sposób, że wykracza to poza okoliczności, jakich można by racjonalnie oczekiwać. Znaczenie tego potencjału zależy od wzajemnego powiązania między powagą ewentualnej szkody, stopniem autonomiczności w podejmowaniu decyzji, prawdopodobieństwem, że zagrożenie rzeczywiście wystąpi oraz sposobem i kontekstem użycia systemu sztucznej inteligencji.
Systemy AI, których operatorzy odpowiadają na zasadzie ryzyka, są najczęściej wdrażane w obszary związane z infrastrukturą krytyczną powodującą zagrożenie dla życia i zdrowia obywateli, w szczególności w zakresie pojazdów autonomicznych, bezzałogowych statków powietrznych, autonomicznych systemów zarządzania ruchem czy też chirurgii wspomaganej przez AI.
Jak szeroki jest zakres odpowiedzialności za szkody wyrządzone przez AI?
Rozporządzenie UE dotyka odpowiedzialności odszkodowawczej. Nie można jednak utożsamiać jej z odpowiedzialnością znaną nam z polskiego prawa cywilnego. Odpowiedzialność za szkody wyrządzone przez AI obejmuje bowiem negatywny wpływ na życie, zdrowie i nienaruszalność cielesną osoby fizycznej, na własność osoby fizycznej lub prawnej albo negatywny wpływ powodujący poważną szkodę niematerialną skutkującą możliwą do zweryfikowania stratą ekonomiczną. Uregulowanie to nie odnosi się jednak do odszkodowań z zakresu ochrony dóbr osobistych, prawa ochrony konsumentów, prawa antydyskryminacyjnego czy ochrony danych osobowych.
Co ważne, obowiązek odszkodowawczy nałożony na sprawcę nie narusza prawa do dodatkowych roszczeń z tytułu odpowiedzialności, wynikających ze stosunków umownych oraz regulacji dotyczących odpowiedzialności za produkt, ochrony konsumentów, niedyskryminacji, ochrony pracy i środowiska między operatorem a osobą fizyczną lub prawną poszkodowaną w wyniku działania AI, które to roszczenia mogą zostać zgłoszone wobec operatora na mocy prawa unijnego lub krajowego.
Warto jeszcze dodać, że zapisy rozporządzenia mają obowiązywać na terytorium całej Wspólnoty, zarówno w zakresie działania samej sztucznej inteligencji, jak i działania urządzeń wykorzystujących taki system. Zakres odpowiedzialności jest szeroki i może dotyczyć niemal każdego aspektu związanego z działalnością AI. Nie ma przy tym znaczenia, w jakim kraju siedzibę ma właściciel praw do systemu sztucznej inteligencji, istotne jest jedynie, że szkoda powstała na terytorium UE.
Jak duże może być odszkodowanie?
Prawa osoby poszkodowanej działaniem sztucznej inteligencji wynikającej z omawianego projektu rozporządzenia nie ograniczają możliwości wychodzenia z dodatkowymi roszczeniami przez uprawnionego. Stąd też prawodawca zdecydował się wprowadzić jasne limity kwotowe, jakie mogą zostać nałożone na sprawcę tytułem odszkodowania.
Operator sztucznej inteligencji, która wyrządziła szkodę na zdrowiu lub majątku, może zostać pociągnięty do odpowiedzialności odszkodowawczej do:
- maksymalnej kwoty 2 milionów euro w przypadku śmierci, uszczerbku na zdrowiu lub okaleczenia osoby w wyniku działania systemu sztucznej inteligencji obarczonego wysokim ryzykiem;
- maksymalnej kwoty 1 miliona euro w przypadku poważnej szkody niematerialnej skutkującej możliwą do zweryfikowania stratą ekonomiczną lub szkody majątkowej, w tym zniszczenia kilku przedmiotów należących do poszkodowanego, w wyniku pojedynczego działania 1 systemu sztucznej inteligencji obarczonego wysokim ryzykiem.
W przypadku gdy łączne odszkodowanie, które ma zostać wypłacone kilku osobom poszkodowanym w wyniku tego samego działania sztucznej inteligencji, przekracza maksymalne kwoty przewidziane w rozporządzeniu, kwoty wypłacane każdej z osób zostaną proporcjonalnie zmniejszone, tak by łączna kwota odszkodowania nie przekroczyła kwoty maksymalnej.
Parlament Europejski szczególnie przyjrzał się wypadkom z udziałem AI, której skutkami była utrata życia przez poszkodowanych. Wprowadził w związku z tym zapisy, na mocy których odszkodowanie, które ma zostać wypłacone przez operatora odpowiedzialnego za okaleczenie skutkujące śmiercią poszkodowanego, jest wyliczane na podstawie kosztów leczenia, które poszkodowany poniósł przed śmiercią, oraz o szkody majątkowe poniesione przed śmiercią w związku z zaprzestaniem lub ograniczeniem możliwości zarobkowania lub wzrostem potrzeb w związku ze szkodami poniesionymi przed śmiercią. Pociągnięty do odpowiedzialności operator powinien przy tym zwrócić koszty pochówku poszkodowanego stronie, która poniosła te wydatki.
Dodatkowo, jeśli w momencie zajścia, które spowodowało szkody, a w konsekwencji doprowadziło do śmierci, poszkodowany pozostawał w związku z inną osobą i był prawnie zobowiązany do jej utrzymywania, odpowiedzialny operator łoży na utrzymanie tej osoby, w zakresie, w którym do ponoszenia tych kosztów byłby zobowiązany poszkodowany, przez okres odpowiadający średniej długości życia osoby w tym wieku i w podobnym stanie. Operator pokrywa również koszty utrzymania osoby małoletniej, jeżeli w momencie zdarzenia została ona już poczęta, ale jeszcze się nie narodziła.
Ile wynosi okres przedawnienia roszczeń o odszkodowanie?
Jak niemal każde roszczenie, także to związane z odpowiedzialnością za szkody wyrządzone przez AI ma swój okres, kiedy może być zgłaszane.
W tym wypadku prawodawca zdecydował się na dosyć długi okres przedawnienia. Dla roszczeń z tytułu odpowiedzialności cywilnej dotyczących śmierci, uszczerbku na zdrowiu lub kalectwa zastosowanie ma okres przedawnienia o długości aż 30 lat, licząc od daty powstania szkody.
Natomiast do roszczeń z tytułu odpowiedzialności cywilnej dotyczących szkód majątkowych lub poważnych szkód niematerialnych zastosowanie ma okres przedawnienia o następującej długości:
- 10 lat od daty powstania szkody majątkowej lub możliwej do zweryfikowania straty ekonomicznej wynikającej z poważnej szkody niematerialnej, lub
- 30 lat od daty przeprowadzenia operacji z wykorzystaniem systemu sztucznej inteligencji obarczonego wysokim ryzykiem, która doprowadziła do zniszczenia własności poszkodowanego lub do poważnej szkody niematerialnej.
