Telefon od prezesa czy wiadomość głosowa od dyrektora finansowego przestają być wiarygodnym dowodem tożsamości. Dzisiaj deepfake i klonowanie głosu to technologie, które pozwalają oszustom na podszywanie się pod kontrahentów lub przełożonych. Narzędzia generatywnej sztucznej inteligencji służą przestępcom do wyłudzania przelewów, pozyskiwania poufnych danych czy przejmowania dostępu do systemów firmowych, co wymaga od przedsiębiorców zupełnie nowego podejścia do weryfikacji.
Deepfake kojarzy się przede wszystkim z fałszywymi filmami publikowanymi w internecie. Z perspektywy przedsiębiorcy równie niebezpieczne jest jednak klonowanie głosu oraz podszywanie się pod członków zarządu, pracowników i kontrahentów podczas rozmowy telefonicznej lub spotkania online.
Atak nie musi być technicznie doskonały. Wystarczy, że pojawi się w odpowiednim momencie, dotrze do właściwej osoby i zostanie połączony z presją czasu, autorytetem przełożonego albo informacją o poufnej transakcji. Dlatego firma powinna chronić nie tylko swoje systemy, ale także proces podejmowania decyzji.
Czym dokładnie są deepfake i klonowanie głosu?
Deepfake to wygenerowany lub zmanipulowany przy użyciu sztucznej inteligencji obraz, dźwięk lub materiał wideo. Może przedstawiać konkretną osobę, która wypowiada słowa, których nigdy nie powiedziała, albo uczestniczy w sytuacji, do której w rzeczywistości nie doszło. Manipulacja może obejmować sam obraz, sam dźwięk albo oba elementy jednocześnie.
Klonowanie głosu polega natomiast na odtworzeniu charakterystycznej barwy, sposobu mówienia i intonacji danej osoby. Do przygotowania przekonującej imitacji może wystarczyć krótka próbka dźwięku. Oszust może pozyskać ją z nagrania konferencji, podcastu, filmu opublikowanego w mediach społecznościowych, firmowego webinaru albo wiadomości głosowej. Na podstawie krótkiego fragmentu nagrania można stworzyć imitację głosu prezesa i wykorzystać ją do nakłonienia pracownika do zapłacenia fałszywej faktury lub wykonania przelewu.
W skutecznym oszustwie nie zawsze musi pojawić się rozbudowany film. Przestępca może np. wysłać kilkunastosekundową „głosówkę”, zadzwonić z numeru przypominającego numer przełożonego albo podczas wideorozmowy wyświetlić podrobiony obraz twarzy.
Jak wygląda oszustwo wymierzone w firmę?
Ataki z wykorzystaniem deepfake mogą wzmacniać znane wcześniej metody socjotechniczne, w tym Business Email Compromise, czyli oszustwa oparte na przejęciu lub podrobieniu firmowej korespondencji elektronicznej. Oszuści analizują stronę firmy, profile zawodowe pracowników, komunikaty prasowe i media społecznościowe. Ustalają, kto odpowiada za płatności, kto zatwierdza przelewy, z kim współpracuje przedsiębiorstwo i kiedy osoby decyzyjne są poza biurem.
Następnie kontaktują się z księgowością, działem finansowym, asystentem zarządu, HR albo pomocą techniczną. Wiadomość może dotyczyć pilnego przelewu, zmiany rachunku kontrahenta, wypłaty wynagrodzenia na nowe konto, zakupu kart podarunkowych, przekazania kodu uwierzytelniającego lub zresetowania hasła. Aby zwiększyć wiarygodność, oszust dołącza nagranie głosu, inicjuje rozmowę telefoniczną albo zaprasza ofiarę na wideospotkanie.
Jak może wyglądać przykładowy scenariusz ataku? Pracownik otrzymuje wiadomość od osoby podającej się za członka zarządu. Nadawca informuje o poufnym przejęciu spółki lub pilnej płatności. Prosi jednocześnie o zachowanie tajemnicy i pominięcie standardowej ścieżki akceptacji. W razie wątpliwości wysyła wiadomość głosową wygenerowaną przez AI podszywającą się pod członka zarządu. Pracownik wykonuje przelew na rachunek kontrolowany przez przestępców.
Podobny atak może zostać skierowany do działu IT. Oszust podszywający się pod dyrektora dzwoni z informacją, że zmienił telefon i utracił dostęp do konta, a następnie żąda wyłączenia uwierzytelniania wieloskładnikowego lub wydania nowego kodu. Samo MFA może jednak nie wystarczyć, jeżeli oszust przekona uprawnionego pracownika do jego wyłączenia, zresetowania dostępu lub pominięcia przyjętej procedury. KNF wskazuje, że sztuczna inteligencja może wspierać zbieranie informacji o organizacji, tworzenie wiadomości naśladujących firmowy styl oraz generowanie fałszywych nagrań głosowych używanych do potwierdzania żądań płatniczych.
Fałszywe spotkanie i wielomilionowa strata
Skala ryzyka nie jest wyłącznie teoretyczna. Na początku 2024 roku pracownik międzynarodowej firmy w Hongkongu otrzymał wiadomość dotyczącą poufnej transakcji. Początkowo podejrzewał próbę phishingu, jednak później dołączył do wideokonferencji, podczas której zobaczył i usłyszał osoby przypominające dyrektora finansowego oraz innych pracowników przedsiębiorstwa.
Spotkanie nie było jednak rzeczywistą rozmową. Oszuści wykorzystali wcześniej przygotowany materiał, w którym za pomocą technologii deepfake odtworzyli wizerunki i głosy pracowników firmy. Zgodnie z ustaleniami hongkońskiej policji podczas konferencji nie dochodziło do rzeczywistej interakcji z jej pozostałymi uczestnikami, a dalsze instrukcje dotyczące płatności przestępcy przekazywali za pośrednictwem komunikatora. Przekonany o autentyczności dyspozycji pracownik wykonał przelewy na pięć rachunków bankowych. Strata wyniosła około 200 mln dolarów hongkońskich, czyli około 25,6 mln dolarów amerykańskich.
Przypadek ten pokazuje, że pracownik może zauważyć pierwsze sygnały ostrzegawcze, a mimo to ostatecznie uznać polecenie za autentyczne. Obraz i głos znanych osób, a także pozorna obecność kilku współpracowników jednocześnie mogą tworzyć silne wrażenie wiarygodności.
Bezpieczeństwo firmy nie powinno więc zależeć wyłącznie od tego, czy pracownik dostrzeże zniekształconą twarz, nienaturalną intonację albo brak synchronizacji ruchu ust z głosem. Kluczowe znaczenie ma przestrzeganie procedur i niezależne potwierdzanie nietypowych dyspozycji.
Jak rozpoznać próbę oszustwa?
Deepfake może zawierać błędy, takie jak nienaturalna mimika, brak synchronizacji głosu z ruchem ust, zmieniające się oświetlenie, niewyraźne krawędzie twarzy, powtarzalne gesty albo nietypowa intonacja. Podczas połączenia mogą pojawiać się opóźnienia, krótki zakres wypowiedzi lub unikanie spontanicznej rozmowy. Są to jednak tylko wskazówki.
Im lepsze narzędzie i materiał źródłowy, tym trudniej rozpoznać manipulację na podstawie samego obrazu lub dźwięku. UODO zaleca więc nie tylko analizowanie szczegółów nagrania, ale przede wszystkim bezpośredni kontakt z osobą lub instytucją, pod którą ktoś się podszywa.
Bardzo ważny jest także kontekst. Podejrzenie powinny wzbudzić zwłaszcza:
- presja natychmiastowego działania;
- żądanie zachowania tajemnicy;
- prośba o pominięcie procedury lub drugiej akceptacji;
- zmiana numeru rachunku, odbiorcy albo sposobu płatności;
- kontakt z nowego numeru, konta lub komunikatora;
- odmowa potwierdzenia dyspozycji innym kanałem;
- polecenie przekazania hasła, kodu MFA lub danych logowania;
- nietypowa pora, język albo sposób wydawania poleceń;
- prośba o usunięcie korespondencji po wykonaniu zadania.
Nie należy także z góry zakładać, że połączenie przychodzące z właściwego numeru jest autentyczne. Numer telefonu i nazwa nadawcy mogą zostać podrobione. Wiadomość wysłana z prawdziwej skrzynki również nie musi pochodzić od jej właściciela, ponieważ konto mogło zostać przejęte. Prośby dotyczące płatności i zmiany rachunku należy potwierdzać, korzystając z wcześniej znanych danych kontaktowych, a nie numeru lub linku przesłanego w podejrzanej wiadomości.
Jak skutecznie zabezpieczyć firmę przed deepfake i klonowanie głosu?
Podstawę zabezpieczenia powinny stanowić procedury, których nie można zmienić jednym telefonem, nawet gdy rozmówca wygląda i brzmi jak prezes. W firmie warto więc wdrożyć następujące zasady:
- każda zmiana rachunku kontrahenta wymaga potwierdzenia na znany wcześniej numer;
- przelew powyżej ustalonego limitu zatwierdzają co najmniej dwie osoby;
- polecenie przekazane wyłącznie przez telefon, komunikator lub wideospotkanie nie wystarcza do wykonania nietypowej płatności;
- pracownik nie może wyłączyć MFA, zresetować dostępu ani ujawnić kodu wyłącznie na podstawie głosu rozmówcy;
- pilne i poufne dyspozycje podlegają takiej samej kontroli jak pozostałe operacje;
- nowe dane kontaktowe lub płatnicze muszą zostać zweryfikowane poza kanałem, którym je przekazano;
- pracownik ma prawo zatrzymać operację bez obawy o konsekwencje służbowe.
Pomocne może być ustalenie wewnętrznego hasła lub pytania weryfikacyjnego używanego przy nietypowych sytuacjach. Nie powinno ono jednak zastępować drugiego kanału i akceptacji dwóch osób przy ważnej transakcji. Hasło może zostać ujawnione, a odpowiedź na proste pytanie przestępca może znaleźć w internecie.
Istotną rolę odgrywają także szkolenia. Dział finansowy musi przećwiczyć rozmowę z fałszywym członkiem zarządu, helpdesk próbę przejęcia konta, a HR wniosek o zmianę rachunku do wypłaty wynagrodzenia. Szczególnie istotne jest nauczenie pracowników, że głos i obraz są informacją, ale nie samodzielnym mechanizmem uwierzytelnienia. Istotne jest łączenie zabezpieczeń technicznych z regularnym szkoleniem pracowników oraz niezależnym potwierdzaniem żądań dotyczących pieniędzy i poufnych informacji.
Warto również ograniczyć publikowanie zbędnych informacji o strukturze firmy, procedurach płatniczych, nieobecnościach kadry zarządzającej i zakresach odpowiedzialności. Nie oznacza to całkowitego usunięcia nagrań z udziałem zarządu. Należy przyjąć, że publiczny głos i wizerunek mogą zostać skopiowane, a następnie zaprojektować procedury odporne na takie podszycie.
Co zrobić, gdy pracownik dał się oszukać?
Po wykryciu oszustwa liczy się czas. Jeżeli doszło do przelewu, trzeba natychmiast skontaktować się z bankiem z wykorzystaniem oficjalnego numeru i poprosić o próbę zatrzymania albo odzyskania środków. Nie należy czekać na zakończenie wewnętrznego postępowania. Centralne Biuro Zwalczania Cyberprzestępczości zaleca pilny kontakt z bankiem oraz zachowanie korespondencji, danych rachunków, potwierdzeń przelewów i innych dowodów.
Następnie firma powinna:
- zablokować dalsze płatności i ostrzec osoby mające uprawnienia finansowe;
- skontaktować się z prawdziwą osobą, pod którą podszył się przestępca;
- zabezpieczyć nagrania, wiadomości, nagłówki e-maili, numery telefonów i logi;
- sprawdzić, czy przejęto skrzynkę pocztową, komunikator lub konto pracownika;
- zakończyć podejrzane sesje, zmienić hasła i zweryfikować ustawienia MFA;
- sprawdzić reguły przekazywania poczty oraz zmiany danych kontrahentów;
- zgłosić zdarzenie przełożonemu, zespołowi IT i osobie odpowiedzialnej za bezpieczeństwo;
- poinformować partnerów, jeżeli oszust podszywa się pod firmę wobec kolejnych osób.
Incydent można zgłosić do CERT Polska przez formularz incydent.cert.pl, a podejrzenie przestępstwa policji lub prokuraturze. Jeżeli w wyniku zdarzenia doszło do naruszenia ochrony danych osobowych, administrator danych powinien przeprowadzić ocenę ryzyka. Zgłoszenie do Prezesa UODO jest wymagane bez zbędnej zwłoki, w miarę możliwości w ciągu 72 godzin od stwierdzenia naruszenia, chyba że jest mało prawdopodobne, aby zdarzenie powodowało ryzyko naruszenia praw lub wolności osób.
Podsumowanie - deepfake i klonowanie głosu
Deepfake i klonowanie głosu sprawiają, że pracownik nie może już traktować znajomej twarzy, głosu ani numeru telefonu jako wystarczającego potwierdzenia tożsamości. Oszuści wykorzystują sztuczną inteligencję przede wszystkim do zwiększenia wiarygodności znanych metod, w tym fałszywych faktur, pilnych przelewów, zmian rachunków, przejmowania kont i obchodzenia procedur. Skuteczna ochrona nie polega na nauczeniu pracowników rozpoznawania każdego technicznego błędu w nagraniu. Firma powinna wprowadzić niezależną weryfikację, zasadę dwóch osób i obowiązek potwierdzania nietypowych dyspozycji innym kanałem.
Źródła
- Komisja Nadzoru Finansowego, „Deepfake”,
- Komisja Nadzoru Finansowego, „Atak BEC”,
- Urząd Ochrony Danych Osobowych, „Ochrona przed deepfake”,
- K. Magramo, Finance worker pays out $25 million after video call with deepfake ‘chief financial officer’, CNN, 2024,
- Centralne Biuro Zwalczania Cyberprzestępczości, „Zgłoś cyberoszustwo”, CBZC,
- Urząd Ochrony Danych Osobowych, „Zgłoszenie naruszenia ochrony danych”,
