Mimo że AI przez użytkowników internetu kojarzone jest z filmikami z kotami jeżdżącymi na sankach, to nie można zaprzeczyć, że dzięki niej nastąpiła automatyzacja wielu uciążliwych procesów technologicznych, zwiększył się poziom cyberbezpieczeństwa oraz doszło do skokowych postępów w nauce, w tym – tak dla nas ważnej – medycynie. Jest jednak jeden aspekt AI, który budzi szczególne kontrowersje – mowa oczywiście o deepfake. Jest to nie tylko problem technologiczny, ale przede wszystkim wyzwanie dla prawa, które musi odpowiedzieć na pytanie – jak chronić dobra osobiste jednostek, a w szczególności ich prawo do wizerunku, a także jak uchronić przestrzeń publiczną przed przerażającym wzrostem fakenewsów?
Czym jest deepfake?
Narzędzia typu deepfake są dziś powszechnie dostępne, często bezpłatnie, a ich obsługa wymaga minimalnej wiedzy informatycznej czy też bardziej technicznej. Z jednej strony otwiera to nowe możliwości w branżach kreatywnych, marketingu czy edukacji, z drugiej jednak rodzi poważne zagrożenia prawne i społeczne.
Pojęcie deepfake odnosi się do materiałów wizualnych lub dźwiękowych wygenerowanych bądź zmodyfikowanych przy użyciu algorytmów sztucznej inteligencji w taki sposób, aby sprawiały wrażenie autentycznych. W skrócie – są to treści tworzone przez AI, które do złudzenia przypominają prawdziwe osoby, zdarzenia czy wypowiedzi.
Deepfake najczęściej polega na:
- podmianie twarzy danej osoby na twarz innej osoby;
- wygenerowaniu realistycznego obrazu osoby, która w rzeczywistości nie istnieje;
- imitacji głosu konkretnej osoby;
- tworzeniu nagrań wideo przedstawiających zdarzenia, które nigdy nie miały miejsca.
Najważniejszą cechą deepfake’ów jest ich wysoki stopień realizmu, który w znaczny sposób utrudnia odróżnienie fałszu od prawdy nawet dla osób doświadczonych w temacie.
Czy prawo reguluje zjawisko deepfake?
Aktualne polskie regulacje prawne dotyczące deepfake’ów są bardzo skromne i odnoszą się do wąskich, pojedynczych zagadnień. Na poziomie unijnym natomiast swoje nieśmiałe kroki zaczyna stawiać tzw. AI Act. To w nim po raz pierwszy podano legalną definicję deepfake’u oraz zakwalifikowano systemy je generujące jako systemy AI „ograniczonego ryzyka”, nakładając na ich dostawców i użytkowników przede wszystkim obowiązki przejrzystości i oznaczania treści jako sztucznie wygenerowanych. Jednocześnie regulacja ta ujawnia istotne luki w prawie, otóż deepfake’i nie zostały uznane ani za praktyki zakazane, ani za systemy wysokiego ryzyka, a obowiązki wskazane w AI Act nie wpływają bezpośrednio na legalność samych treści, a jedynie na zakres odpowiedzialności podmiotów zobowiązanych.
W piśmiennictwie podnosi się, że definicja deepfake’u, choć sprzyja ujednoliceniu pojęcia w prawie wspólnotowym, rodzi wątpliwości interpretacyjne, m.in. co do stopnia „podobieństwa” do rzeczywistości czy pojęcia „istniejących” osób i zdarzeń, a ponadto wyłącza spod regulacji treści tekstowe oraz działania osób fizycznych w ramach użytku prywatnego. W konsekwencji deepfake jako technologia pozostaje prawnie neutralny. Co do zasady nie jest zakazany, a jedynie w połączeniu z naruszeniem innych przepisów może stanowić wykroczenie lub przestępstwo. Jego legalność oceniana jest każdorazowo w kontekście naruszenia konkretnych norm prawnych, takich jak ochrona dóbr osobistych czy danych osobowych. Są plany, aby prawo unijne wzmacniało ochronę przed najbardziej szkodliwymi formami deepfake’ów, zwłaszcza o charakterze pornograficznym, dezinformacyjnym i naruszającym prawa podstawowe. Do tej pory oprócz wspomnianego AI Act możemy jeszcze wskazać na Dyrektywę Parlamentu Europejskiego i Rady (UE) 2024/1385 z dnia 14 maja 2024 roku w sprawie zwalczania przemocy wobec kobiet i przemocy domowej, która w art. 5 ust. 1 lit. b) wskazuje, że państwa członkowskie powinny dążyć do zapewnienia, aby czyny umyślne, takie jak wytwarzanie obrazów, nagrań wideo lub podobnych treści, które sprawiają wrażenie, że osoba uczestniczy w czynnościach o wyraźnie seksualnym charakterze, podlegały karze jako przestępstwo.
Granice legalności deepfake’ów w polskim prawie
Jak wspomniano wyżej, w polskim porządku prawnym brak jest regulacji, które wprost odnosiłyby się do legalności (bądź braku tej legalności) technologii deepfake. Nie oznacza to jednak, że tworzenie lub rozpowszechnianie tego rodzaju treści funkcjonuje w jakiejś szarej strefie, z którą nic się nie da zrobić. Wręcz przeciwnie, można z nimi walczyć dzięki już istniejącym ustawom. Granice dopuszczalności deepfake’ów wyznaczają liczne zasady obowiązującego prawa, w szczególności te, które chronią dobra osobiste oraz regulują sposób korzystania z informacji.
Oceniając legalność deepfake’ów, należy zatem analizować nie samą technologię, ale konkretne skutki jej użycia, w tym naruszenia, do jakich może dojść na etapie tworzenia bądź rozpowszechniania wygenerowanych treści. W praktyce deepfake może stanowić narzędzie zarówno neutralne prawnie, jak i całkowicie nielegalne i społecznie szkodliwe. Wszystko zależy od kontekstu, celu oraz zakresu ingerencji w chronione prawem sfery konkretnych podmiotów.
Deepfake a dobra osobiste
Dobra osobiste stanowią jeden z kluczowych obszarów, jaki może zostać potencjalnie naruszony przez technologię deepfake. Do tej kategorii można zaliczyć m.in.:
- wizerunek,
- godność,
- dobre imię,
- cześć,
- nazwisko,
- głos człowieka.
Deepfake może ingerować w podstawowe prawa osób na wiele sposobów, w szczególności poprzez przedstawianie osoby w fałszywym, kompromitującym lub ośmieszającym ją kontekście. Przykładem może być wygenerowanie materiału wideo sugerującego zachowania i wypowiedzi danej osoby, które w rzeczywistości nigdy nie miały miejsca, a które mogą negatywnie wpływać na jej społeczną ocenę (tj. skompromitować ją).
Co istotne – ochrona wizerunku funkcjonuje niezależnie od naruszenia innych dóbr osobistych. Już samo bezprawne wykorzystanie czyjegoś wizerunku, bez uzyskania zgody, może stanowić podstawę odpowiedzialności cywilnej. Dotyczy to również głosu, który jest jednoznacznie uznawany za dobro osobiste. Manipulowanie nagraniem głosu w taki sposób, aby odbiorca mógł utożsamić go z inną osobą, a następnie przypisać jej określone wypowiedzi, może zostać zakwalifikowane jako bezprawna ingerencja (por. wyrok SN z 7 marca 2023 roku, sygn. akt: II CSKP 659/22).
Deepfake a ochrona danych osobowych
Materiały typu deepfake bardzo często operują na danych osobowych osób fizycznych. Dotyczy to w szczególności takich informacji jak wizerunek (wygląd) twarzy, barwa głosu, mimika, sposób mówienia, a nierzadko również imię, nazwisko czy inne dane identyfikujące konkretną osobę (np. adres e-mail). Użycie takich informacji oznacza przetwarzanie danych osobowych w rozumieniu RODO, obejmujące m.in. zbieranie, łączenie, modyfikowanie oraz rozpowszechnianie danych.
Zgodnie z unijnym rozporządzeniem każde przetwarzanie musi mieć podstawę prawną i odbywać się z poszanowaniem zasad legalności, rzetelności i przejrzystości. W praktyce oznacza to konieczność uzyskania zgody osoby, której dane są wykorzystywane, albo spełnienia innej przesłanki legalizującej przetwarzanie. Brak owej podstawy sprawia, że już samo tworzenie czy udostępnianie deepfake’u może naruszać przepisy o ochronie danych osobowych.
Wyjątek dotyczy przetwarzania danych w ramach czynności o charakterze czysto osobistym lub domowym. Jednak nawet w takich sytuacjach twórca deepfake’u nie jest zwolniony z przestrzegania innych norm prawnych, w szczególności tych dotyczących ochrony dóbr osobistych czy wizerunku.
Deepfake a prawo autorskie
Proces tworzenia deepfake’ów często wymaga korzystania z istniejących materiałów, takich jak nagrania wideo, zdjęcia, dźwięki czy fragmenty utworów audiowizualnych. Jeżeli materiały te podlegają ochronie prawa autorskiego, ich wykorzystanie bez zgody autora lub poza zakresem dozwolonego użytku (np. tzw. prawa cytatu) może prowadzić do naruszenia autorskich praw majątkowych i osobistych.
Ryzyko naruszeń dotyczy nie tylko samego kopiowania lub modyfikowania utworów, ale również ich rozpowszechniania. Szczególnie istotne znaczenie ma tu ochrona wizerunku przewidziana w prawie autorskim. Co do zasady rozpowszechnianie wizerunku osoby fizycznej wymaga jej zgody, a jej brak może prowadzić do odpowiedzialności cywilnej, niezależnie od tego, czy doszło do naruszenia dóbr osobistych w rozumieniu kc.
Warto przy tym zaznaczyć, że odpowiedzialność na gruncie prawa autorskiego aktualizuje się dopiero w momencie rozpowszechnienia materiału. Samo stworzenie deepfake’u, bez jego udostępnienia, zasadniczo nawet nie zahacza o przepisy o prawach autorskich.
A co z odpowiedzialnością karną?
Mimo że tworzenie materiałów typu deepfake nie jest samo w sobie zakazane, w praktyce bywa wykorzystywane jako narzędzie popełniania przestępstw. Technologia ta nie tworzy nowych typów przestępstw, lecz wzmacnia skuteczność klasycznych mechanizmów, zwiększając wiarygodność fałszywego przekazu i utrudniając jego wykrycie.
Deepfake znajduje zastosowanie w szczególności przy takich działaniach przestępnych jak oszustwa i wyłudzenia, gdzie fałszywe nagrania obrazu lub głosu służą podszywaniu się pod określone osoby w celu doprowadzenia pokrzywdzonego do niekorzystnego rozporządzenia mieniem.
Omawiana technologia bywa również wykorzystywana do zniesławienia oraz naruszania dóbr osobistych, poprzez rozpowszechnianie materiałów przypisujących osobom nieprawdziwe wypowiedzi lub zachowania, mogące podważyć ich reputację. W zależności od okoliczności może to prowadzić zarówno do odpowiedzialności cywilnej, jak i karnej, zwłaszcza gdy treści są rozpowszechniane za pomocą środków masowego komunikowania.
Odpowiedzialność za nielegalne korzystanie z technologii deepfake może być różna – prawo przewiduje tutaj grzywny, kary pozbawienia wolności, a także obowiązek naprawienia wyrządzonej szkody. Dla przykładu za przestępstwo oszustwa grozi kara więzienia do 8 lat, a za fałszerstwo dokumentów do 5 lat.
Deepfake – czy fałszywe obrazy zawsze łamią prawo?
Podsumowując, deepfake jako taki nie łamie prawa. Jego tworzenie może zarówno być całkowicie legalne, jak i podlegać pod karę pozbawienia wolności. Zależy od okoliczności konkretnej sprawy.
Trzeba zatem pamiętać, że jego stosowanie wiąże się z wyjątkowo wysokim ryzykiem naruszenia obowiązujących przepisów prawa, jak chociażby tych dotyczących danych osobowych, dóbr osobistych, praw autorskich, a także norm karnych.
Legalne tworzenie i rozpowszechnianie deepfake’ów jest możliwe, ale wymaga szczególnej ostrożności, świadomego działania oraz dbania o nieprzekraczanie obowiązujących społecznych i prawnych granic. Ważne jest tutaj szczególnie respektowanie praw osób, których wizerunek, głos lub dane są wykorzystywane.
