Deepfake: co to jest i jak rozpoznać film wygenerowany przez AI

Deepfake: co to znaczy po polsku

Deepfake to nagranie wideo, zdjęcie albo nagranie głosu, które sztuczna inteligencja wygenerowała lub zmieniła tak, żeby przypominało prawdziwą osobę albo prawdziwe zdarzenie. Nazwa łączy angielskie słowa „deep learning” (głębokie uczenie maszynowe) i „fake” (fałszywka). Po polsku mówi się też po prostu „fałszywe nagranie” albo „głęboka fałszywka”.

Unijny akt w sprawie sztucznej inteligencji (AI Act) definiuje deepfake jako wygenerowane albo zmanipulowane przez AI obrazy, dźwięki lub wideo, które przypominają istniejące osoby, przedmioty, miejsca lub zdarzenia i które odbiorca mógłby niesłusznie uznać za prawdziwe. Te same przepisy nakładają obowiązek oznaczania takich treści.

Najczęstsze oszustwa z deepfake w Polsce

• Fałszywe reklamy inwestycji. Wideo, w którym znana osoba (dziennikarz, sportowiec, polityk, przedsiębiorca) „poleca” platformę inwestycyjną, kryptowaluty albo „program rządowy” z obietnicą wysokich zysków. Po kliknięciu trafiasz na formularz, a potem dzwoni „doradca”.
• Sklonowany głos bliskiej osoby. Oszust nagrywa kilka sekund głosu z filmu w mediach społecznościowych i dzwoni jako wnuczek, córka albo syn: wypadek, pilna potrzeba pieniędzy, prośba o BLIK.
• Fałszywe wypowiedzi polityków. Nagrania, w których ktoś mówi coś, czego nigdy nie powiedział. Krążą szczególnie przed wyborami i przy głośnych wydarzeniach.
• Fałszywe cudowne leki. „Lekarz” albo znany prezenter poleca suplement, który leczy wszystko. Twarz i głos są prawdziwe, słowa już nie.

Jak rozpoznać deepfake: sygnały w obrazie

1. Usta nie nadążają za słowami. Ruch warg lekko rozjeżdża się z dźwiękiem, szczególnie przy głoskach „p”, „b” i „m”.
2. Nienaturalne mruganie i spojrzenie. Za rzadkie mruganie, wzrok, który nie podąża za rozmową, oczy, które „patrzą” trochę obok.
3. Granica twarzy. Przy linii włosów, uszach i brodzie obraz migocze, rozmywa się albo zmienia kolor, zwłaszcza gdy osoba odwraca głowę.
4. Zęby i wnętrze ust. Zęby jak jednolity biały pas, język, który znika.
5. Światło, które się nie zgadza. Twarz oświetlona inaczej niż szyja albo tło, brak cienia tam, gdzie powinien być.
6. Ręce i przedmioty. Dłoń przenika przez twarz, okulary albo mikrofon zniekształcają się przy ruchu.

Najlepiej widać to w zwolnionym tempie i na dużym ekranie. Zatrzymaj film w chwili, gdy osoba odwraca głowę albo zasłania twarz ręką: wtedy fałszerstwo najczęściej się zdradza.

Sygnały w dźwięku: jak rozpoznać sklonowany głos

• Głos brzmi płasko, bez emocji, albo emocje nie pasują do sytuacji.
• Brakuje oddechów, a pauzy są w dziwnych miejscach.
• Rozmówca unika pytań, na które zna odpowiedź tylko prawdziwa osoba, i naciska na pośpiech.

Jak sprawdzić, czy film jest wygenerowany przez AI

1. Sprawdź źródło. Czy film opublikowało oficjalne konto osoby albo znana redakcja? Reklama z „wywiadem” znanej osoby, która prowadzi do nieznanej strony, to prawie zawsze oszustwo.
2. Poszukaj oryginału. Zrób zrzut klatki i wyszukaj go obrazem. Często okazuje się, że twarz pochodzi z prawdziwego wywiadu, w którym padły zupełnie inne słowa.
3. Sprawdź oznaczenia. TikTok, YouTube, Facebook i Instagram oznaczają część treści wygenerowanych przez AI.
4. Użyj detektora AI. Na czeker.pl/czy-to-ai wklej link do filmu z TikToka, Instagrama, Facebooka albo YouTube lub wgraj plik. Detektor sprawdzi fragment nagrania i poda prawdopodobieństwo, że wideo jest wygenerowane albo zmanipulowane.

Co zrobić, gdy trafisz na deepfake

Nie udostępniaj go dalej, nawet z komentarzem „to fałszywka”, bo każde udostępnienie zwiększa zasięg. Zgłoś post w serwisie, w którym go widzisz. Jeśli deepfake służy do oszustwa (fałszywa inwestycja, prośba o pieniądze), zgłoś go do CERT Polska przez stronę incydent.cert.pl. Jeśli straciłeś pieniądze, od razu zadzwoń do banku i zgłoś sprawę na policję.