Z punktu widzenia prawa karnego istotne jest przede wszystkim to, że w polskim Kodeksie karnym nie ma jednego przepisu obejmującego każdy deepfake. Nie oznacza to jednak, że sprawca pozostaje bezkarny. Odpowiedzialność zależy od tego, do czego fałszywy materiał został użyty, jaki miał charakter, czy pozwalał zidentyfikować konkretną osobę i jakie skutki wywołał. Dlatego w każdej sprawie trzeba zacząć od konkretów: kogo przedstawiał materiał, gdzie został opublikowany, kto mógł go zobaczyć, jaki był cel sprawcy i czy pokrzywdzony poniósł szkodę. Dopiero te ustalenia pozwalają ocenić, czy doszło do przestępstwa, a jeżeli tak, z jakiego przepisu. W zależności od okoliczności fałszywe nagranie, zdjęcie albo podrobiony głos mogą prowadzić do odpowiedzialności karnej za stalking, podszywanie się pod inną osobę, zniesławienie, zniewagę, groźby, zmuszanie, szantaż, oszustwo, naruszenie intymności seksualnej albo przestępstwa związane z treściami pornograficznymi dotyczącymi małoletnich.
Czym jest deepfake w praktyce?
Deepfake to materiał stworzony albo przerobiony przy użyciu technologii cyfrowej, najczęściej sztucznej inteligencji, który sprawia wrażenie autentycznego. Może przybrać formę filmu, zdjęcia, nagrania głosu albo innego materiału audiowizualnego. W praktyce chodzi m.in. o:
- wygenerowanie nagiego zdjęcia konkretnej osoby,
- stworzenie filmu sugerującego udział tej osoby w czynności seksualnej,
- podrobienie głosu członka rodziny w celu wyłudzenia pieniędzy,
- przygotowanie fałszywego nagrania polityka, przedsiębiorcy, pracownika albo osoby prywatnej,
- wykorzystanie cudzej twarzy w fałszywej reklamie,
- podszycie się pod inną osobę w internecie.
Samo stworzenie przerobionego materiału nie zawsze oznacza popełnienie przestępstwa. Inaczej należy ocenić prywatny eksperyment technologiczny, a inaczej publikację materiału, który uderza w konkretną osobę, powoduje szkodę albo służy do wyłudzenia pieniędzy. W sprawach karnych decydują szczegóły. Ten sam materiał może być jednocześnie narzędziem oszustwa, zniesławienia i podszywania się pod inną osobę. Inny może nie wypełniać znamion przestępstwa, choć nadal naruszać dobra osobiste na gruncie prawa cywilnego.
Podszywanie się pod inną osobę
Jednym z najważniejszych przepisów przy deepfake’ach jest art. 190a § 2 Kodeksu karnego, dotyczący tzw. kradzieży tożsamości. Odpowiedzialność karna może powstać wtedy, gdy sprawca podszywa się pod inną osobę, wykorzystuje jej wizerunek, dane osobowe albo inne dane, za pomocą których jest ona publicznie identyfikowana, i wyrządza jej przez to szkodę majątkową lub osobistą. Za taki czyn grozi kara pozbawienia wolności od 6 miesięcy do 8 lat. W przypadku deepfake’u może chodzić np. o stworzenie fałszywego profilu z cudzym wizerunkiem, opublikowanie nagrania sugerującego, że wypowiada się konkretna osoba, albo użycie podrobionego głosu w taki sposób, aby odbiorca był przekonany, że rozmawia z kimś innym. Nie wystarczy jednak samo użycie cudzej twarzy albo głosu. Przepis wymaga wyrządzenia szkody majątkowej albo osobistej. Szkodą osobistą może być naruszenie reputacji, problemy rodzinne, zawodowe lub społeczne. Szkodą majątkową może być utrata pieniędzy, klientów, kontraktu, pracy albo innej realnej korzyści. Jeżeli następstwem takiego czynu jest targnięcie się pokrzywdzonego na własne życie, kara wynosi od 2 do 15 lat pozbawienia wolności.
Kiedy fałszywy materiał może być stalkingiem?
Deepfake może też stać się elementem uporczywego nękania. Tak będzie zwłaszcza wtedy, gdy sprawca nie poprzestaje na jednej publikacji, lecz wraca do tematu: zakłada kolejne konta, rozsyła przerobione materiały, oznacza pokrzywdzonego albo przesyła treści jego znajomym. Art. 190a § 1 Kodeksu karnego przewiduje odpowiedzialność za uporczywe nękanie innej osoby lub osoby jej najbliższej, jeżeli wzbudza ono uzasadnione okolicznościami poczucie zagrożenia, poniżenia lub udręczenia albo istotnie narusza prywatność. Za stalking grozi kara pozbawienia wolności od 6 miesięcy do 8 lat.
Przykładem może być sytuacja, w której sprawca regularnie publikuje przerobione zdjęcia, wysyła fałszywe nagrania znajomym pokrzywdzonego, zakłada kolejne profile albo wykorzystuje takie materiały do stałego poniżania tej samej osoby. Nie każde jednorazowe opublikowanie materiału będzie stalkingiem. Przy tym przestępstwie istotna jest uporczywość. Jeżeli jednak działanie jest powtarzalne, celowe i realnie ingeruje w życie pokrzywdzonego, art. 190a § 1 k.k. może mieć zastosowanie.
Materiały seksualne i problem kwalifikacji prawnej
Najbardziej dotkliwe dla pokrzywdzonych są zwykle deepfake’i seksualne. Chodzi o materiały, które pokazują konkretną osobę jako nagą albo uczestniczącą w czynności seksualnej, mimo że taki materiał w rzeczywistości nigdy nie powstał. W takich sprawach naturalnie pojawia się pytanie o art. 191a Kodeksu karnego. Przepis ten dotyczy utrwalania wizerunku nagiej osoby lub osoby w trakcie czynności seksualnej z użyciem przemocy, groźby bezprawnej albo podstępu, a także rozpowszechniania takiego wizerunku bez zgody tej osoby.
Za czyn z art. 191a § 1 k.k. grozi kara pozbawienia wolności od 3 miesięcy do 5 lat. Przy deepfake’u trzeba jednak zachować ostrożność. Ten przepis był pisany przede wszystkim z myślą o rzeczywistym wizerunku osoby nagiej albo osoby uczestniczącej w czynności seksualnej. Jeżeli materiał jest całkowicie wygenerowany, a nie utrwalony w realnej sytuacji, kwalifikacja z art. 191a k.k. może być sporna.
Nie oznacza to, że sprawca jest bezpieczny. Jeżeli materiał pozwala zidentyfikować konkretną osobę i przedstawia ją w kontekście seksualnym, sprawa może być analizowana także przez pryzmat podszywania się pod inną osobę, stalkingu, zniesławienia, zniewagi, szantażu albo przepisów dotyczących małoletnich. W praktyce znaczenie będą miały zwłaszcza następujące okoliczności:
- czy odbiorcy mogli rozpoznać pokrzywdzonego,
- czy materiał został rozpowszechniony,
- jaki był zasięg publikacji,
- czy sprawca działał w celu poniżenia, zemsty albo wymuszenia określonego zachowania,
- czy pokrzywdzony poniósł szkodę osobistą albo majątkową.
Materiały dotyczące małoletnich
Osobno trzeba traktować materiały seksualne dotyczące małoletnich. W tym zakresie Kodeks karny wprost odnosi się także do wizerunku wytworzonego albo przetworzonego. Zgodnie z art. 202 § 4b k.k. karze podlega ten, kto produkuje, rozpowszechnia, prezentuje, przechowuje albo posiada treści pornograficzne przedstawiające wytworzony albo przetworzony wizerunek małoletniego uczestniczącego w czynności seksualnej. Za taki czyn grozi kara pozbawienia wolności do 3 lat.
To bardzo ważne przy materiałach generowanych przez sztuczną inteligencję. W przypadku małoletnich ustawodawca uwzględnił sytuację, w której treść nie jest klasycznym nagraniem rzeczywistego zdarzenia, ale została wytworzona albo przetworzona. Takich spraw nie należy traktować jako internetowego żartu. Samo posiadanie, przechowywanie albo przesyłanie takich treści może prowadzić do odpowiedzialności karnej.
Fałszywy materiał a zniesławienie
Deepfake może również naruszać dobre imię pokrzywdzonego. Jeżeli fałszywy materiał sugeruje, że dana osoba dopuściła się zachowania kompromitującego, niemoralnego, nieuczciwego albo przestępnego, w grę może wchodzić art. 212 Kodeksu karnego. Zniesławienie polega na pomówieniu innej osoby, grupy osób, instytucji, osoby prawnej albo jednostki organizacyjnej o takie postępowanie lub właściwości, które mogą poniżyć ją w opinii publicznej albo narazić na utratę zaufania potrzebnego dla danego stanowiska, zawodu lub rodzaju działalności.
W typie podstawowym grozi za to grzywna albo kara ograniczenia wolności. Jeżeli sprawca dopuszcza się zniesławienia za pomocą środków masowego komunikowania, a więc np. przez internet, grozi grzywna, kara ograniczenia wolności albo kara pozbawienia wolności do roku.
Przykładem może być fałszywe nagranie sugerujące, że lekarz, adwokat, nauczyciel, przedsiębiorca, polityk albo pracownik dopuścił się zachowania podważającego zaufanie do niego. W sprawach o zniesławienie duże znaczenie ma kontekst. Sąd będzie badał nie tylko sam materiał, ale również to, jak mógł go odebrać przeciętny odbiorca, jaki był zasięg publikacji i czy materiał rzeczywiście mógł zaszkodzić reputacji pokrzywdzonego. Zniesławienie jest co do zasady ścigane z oskarżenia prywatnego. Oznacza to, że pokrzywdzony zwykle sam wnosi prywatny akt oskarżenia do sądu.
Zniewaga, czyli materiał nastawiony na poniżenie
Innym przepisem, który może mieć zastosowanie, jest art. 216 Kodeksu karnego. Dotyczy on zniewagi, czyli zachowania obraźliwego, poniżającego albo okazującego pogardę wobec innej osoby. Jeżeli deepfake ma przede wszystkim ośmieszyć, upokorzyć albo zdegradować konkretną osobę, może pojawić się odpowiedzialność za zniewagę. W przypadku zniewagi dokonanej za pomocą środków masowego komunikowania grozi grzywna, kara ograniczenia wolności albo kara pozbawienia wolności do roku. Różnica między zniesławieniem a zniewagą ma znaczenie praktyczne. Zniesławienie polega na przypisaniu komuś określonego postępowania albo cech, które mogą obniżyć jego reputację. Zniewaga dotyczy natomiast przede wszystkim obraźliwej formy zachowania. Ten sam fałszywy materiał może jednak realizować oba typy czynów. Może jednocześnie przypisywać komuś określone zachowanie i mieć wyraźnie poniżający charakter.
Groźby, zmuszanie i szantaż
Fałszywy materiał może służyć do zastraszania. Sprawca może grozić opublikowaniem przerobionych zdjęć, fałszywego nagrania seksualnego albo innego kompromitującego materiału. Jeżeli grozi popełnieniem przestępstwa na szkodę danej osoby lub osoby jej najbliższej, a groźba wzbudza uzasadnioną obawę spełnienia, zastosowanie może mieć art. 190 § 1 Kodeksu karnego. Za groźbę karalną grozi kara pozbawienia wolności do 3 lat. Jeżeli natomiast sprawca stosuje groźbę bezprawną, aby zmusić inną osobę do określonego działania, zaniechania albo znoszenia, w grę może wchodzić art. 191 § 1 k.k. Za taki czyn również grozi kara pozbawienia wolności do 3 lat.
Jeszcze poważniej wygląda sytuacja, gdy sprawca żąda pieniędzy albo innej korzyści. Art. 282 § 2 k.k. przewiduje odpowiedzialność za doprowadzenie innej osoby do rozporządzenia mieniem albo do zaprzestania lub ograniczenia działalności gospodarczej przez groźbę rozgłoszenia wiadomości uwłaczającej czci, istotnie naruszającej prywatność albo zarzutu mogącego poniżyć w opinii publicznej lub narazić na utratę zaufania. Za takie zachowanie grozi kara pozbawienia wolności od roku do 10 lat. Ten przepis może mieć znaczenie zwłaszcza wtedy, gdy sprawca żąda pieniędzy za nieopublikowanie deepfake’u albo za usunięcie materiału, który godzi w prywatność lub reputację pokrzywdzonego.
Oszustwo z użyciem podrobionego głosu lub obrazu
Deepfake może być także narzędziem oszustwa. Nie chodzi wyłącznie o fałszywe reklamy inwestycyjne z wizerunkiem znanych osób. Coraz większym problemem są również podrobione nagrania głosu, fałszywe wideorozmowy i komunikaty wyglądające na pochodzące od członka rodziny, przełożonego albo kontrahenta. Art. 286 § 1 Kodeksu karnego przewiduje odpowiedzialność za doprowadzenie innej osoby do niekorzystnego rozporządzenia mieniem przez wprowadzenie jej w błąd, wyzyskanie błędu albo niezdolności do należytego pojmowania działania. Za oszustwo grozi kara pozbawienia wolności od 6 miesięcy do 8 lat.
Jeżeli sprawca wykorzystuje wygenerowany głos prezesa spółki, fałszywy film z członkiem rodziny albo przerobione nagranie znanej osoby w celu wyłudzenia pieniędzy, deepfake staje się narzędziem wprowadzenia w błąd. Przykładowo, pracownik może otrzymać wiadomość głosową brzmiącą jak polecenie przełożonego i na tej podstawie wykonać przelew. Podobnie fałszywe nagranie znanej osoby może uwiarygadniać fikcyjną inwestycję. W przypadku mienia znacznej wartości sankcja może wzrosnąć do kary od roku do 10 lat pozbawienia wolności. Przy jeszcze wyższych wartościach Kodeks karny przewiduje surowsze zagrożenia, ale ich zastosowanie zależy już od konkretnych kwot i kwalifikacji przyjętej w sprawie.
Przestępstwa komputerowe poprzedzające stworzenie materiału
W części spraw deepfake jest tylko finałem wcześniejszych działań. Sprawca może najpierw włamać się na konto, przejąć zdjęcia, pobrać prywatne nagrania, uzyskać dostęp do poczty albo manipulować danymi. Jeżeli sprawca bez uprawnienia uzyskuje dostęp do informacji dla niego nieprzeznaczonej albo do systemu informatycznego, może odpowiadać z art. 267 Kodeksu karnego. W zależności od formy czynu grozi za to grzywna, kara ograniczenia wolności albo kara pozbawienia wolności do 2 lat.
Jeżeli sprawca wpływa na automatyczne przetwarzanie, gromadzenie lub przekazywanie danych informatycznych albo zmienia, usuwa lub wprowadza nowy zapis danych w celu osiągnięcia korzyści majątkowej lub wyrządzenia szkody, może wchodzić w grę art. 287 k.k., czyli oszustwo komputerowe. Za taki czyn grozi kara pozbawienia wolności od 3 miesięcy do 5 lat.
Przy deepfake’ach nie należy więc patrzeć wyłącznie na gotowy materiał. Czasami równie ważne jest to, skąd sprawca pozyskał dane, zdjęcia, nagrania albo dostęp do konta pokrzywdzonego.
Czy za samo udostępnienie deepfake’u też można odpowiadać?
Tak, można. Nie trzeba być autorem deepfake’u, aby narazić się na odpowiedzialność karną. Jeżeli ktoś wie, że materiał jest fałszywy, intymny, zniesławiający albo służy do nękania, a mimo to go rozpowszechnia, przesyła dalej albo publikuje na kolejnych profilach, odpowiada za własne zachowanie. W niektórych przypadkach odpowiedzialność wynika już z samego rozpowszechniania materiału. W innych udostępnienie może zostać potraktowane jako pomocnictwo, współsprawstwo albo odrębne przestępstwo, np. zniesławienie, zniewaga albo stalking. Samo tłumaczenie, że materiał został tylko przesłany dalej, nie zawsze wystarczy. Znaczenie ma to, czy osoba udostępniająca znała charakter materiału, jaki miała cel, do ilu osób trafiła treść i czy publikacja wyrządziła szkodę pokrzywdzonemu.
Co może zrobić pokrzywdzony?
W sprawach dotyczących deepfake’ów najważniejsze jest szybkie zabezpieczenie dowodów. Materiały internetowe mogą zostać usunięte, konto może zmienić nazwę, a link może przestać działać. Pokrzywdzony powinien w szczególności:
- wykonać zrzuty ekranu z widoczną datą, adresem strony i nazwą profilu,
- zapisać linki do publikacji,
- zabezpieczyć wiadomości od sprawcy,
- ustalić, gdzie i kiedy materiał został opublikowany,
- spisać dane osób, które widziały materiał,
- zgłosić treść administratorowi platformy,
- rozważyć zawiadomienie o podejrzeniu popełnienia przestępstwa,
- w sprawach prywatnoskargowych rozważyć prywatny akt oskarżenia.
Przy szantażu, materiałach seksualnych, sprawach dotyczących małoletnich, oszustwach i uporczywym nękaniu nie warto zwlekać. Im szybciej zostaną zabezpieczone dowody, tym większa szansa na ustalenie sprawcy i ograniczenie dalszego rozpowszechniania materiału.
Jak może bronić się osoba podejrzana?
Nie każda sprawa dotycząca deepfake’u jest oczywista. Obrona może dotyczyć m.in. tego, czy materiał rzeczywiście pozwalał zidentyfikować pokrzywdzonego, czy doszło do rozpowszechnienia, czy powstała szkoda, czy sprawca działał umyślnie i czy miał świadomość charakteru materiału. W sprawach o zniesławienie i zniewagę znaczenie ma kontekst publikacji, forma materiału, krąg odbiorców i to, czy przeciętny odbiorca mógł uznać materiał za rzeczywisty.
Przy oszustwie trzeba badać, czy doszło do wprowadzenia w błąd, czy pokrzywdzony rozporządził mieniem i czy między deepfake’iem a przekazaniem pieniędzy istnieje rzeczywisty związek. Przy materiałach intymnych zasadnicze znaczenie ma to, czy materiał przedstawiał konkretną osobę, czy doszło do jego rozpowszechnienia i czy można zastosować konkretny przepis Kodeksu karnego, a nie tylko ogólnie stwierdzić, że materiał był krzywdzący.
Podsumowanie
Deepfake nie jest już wyłącznie problemem technologicznym. Coraz częściej staje się także problemem karnym. Fałszywe nagranie, przerobione zdjęcie albo wygenerowany głos mogą prowadzić do odpowiedzialności za podszywanie się pod inną osobę, stalking, zniesławienie, zniewagę, groźby, zmuszanie, szantaż, oszustwo albo przestępstwa komputerowe. W sprawach dotyczących małoletnich szczególne znaczenie ma art. 202 § 4b k.k., który obejmuje również wytworzony albo przetworzony wizerunek małoletniego uczestniczącego w czynności seksualnej. Nie ma jednej odpowiedzi na pytanie, jaka kara grozi za deepfake. Wszystko zależy od tego, jaki materiał powstał, czy został rozpowszechniony, kogo dotyczył, jaki był cel sprawcy i jakie skutki wywołał.
Najważniejsze jest więc nie samo użycie sztucznej inteligencji, ale to, czy fałszywy materiał naruszył konkretne dobro prawne: prywatność, reputację, wolność, mienie albo bezpieczeństwo pokrzywdzonego. Twierdzenie, że deepfake to tylko żart albo zabawa technologią, może być bardzo ryzykowne. W wielu przypadkach taki materiał może skończyć się postępowaniem karnym.
