Jak rozpoznać, że video to deepfake AI? Oto kilka istotnych cech

W zalewie krótkich filmików w mediach społecznościowych coraz częściej trafiamy na materiały stworzone czy chociażby modyfikowane przez modele AI. Niektóre z nich nawet nie kryją się z tym, że zostały wygenerowane. Inne natomiast próbują wprowadzić widza w błąd. Jak możemy je rozpoznać? 

• AI potrafi generować realistyczne filmy, które coraz trudniej odróżnić od prawdziwych nagrań.
• To otwiera drogę nie tylko do masowej produkcji memów, ale i do masowej dezinformacji.
• Deepfake można jeszcze rozpoznać zwracając uwagę na szczegóły.
• Filmy generowane przez AI zawierają drobne nieścisłości – takie, jak nienaturalna mimika, błędy w oświetleniu czy zła synchronizacja dźwięku.

Filmy AI coraz trudniej odróżnić od realnych nagrań

Jeszcze kilka lat temu generatory wideo oparte na sztucznej inteligencji tworzyły materiały, których nie sposób było pomylić z prawdziwymi filmami.

Doskonałym przykładem jest popularny swego czasu klip z Willem Smithem jedzącym spaghetti (który w środowisku stał się swego rodzaju benchmarkiem, mierzącym progres modeli AI).

Wczesne próby generowania takich nagrań przypominały raczej groteskowy koszmar senny.

Podobnie jak modele językowe, które jeszcze niedawno popełniały proste błędy i notorycznie „halucynowały”, dziś potrafią tworzyć logiczne raporty i prowadzić samodzielny research, tak i modele wideo przeszły błyskawiczną ewolucję.

Najnowsze narzędzia, takie jak Veo 3 od Google czy Sora 2 od OpenAI,generują materiały, których wielu widzów nie potrafiłoby odróżnić od rzeczywistych nagrań.

Podstawowy problem, który z tego wynika, to zalewanie internetu treściami wygenerowanymi przez AI.

Koszt ich tworzenia jest dość niski, dlatego coraz więcej osób wykorzystuje generatory wideo do masowej produkcji treści rozrywkowych.

Powstają niezliczone „farmy contentu” publikujące nagrania np. ze zwierzętami prowadzącymi pojazdy, które mają rozbawić czy zaskoczyć widza.

Jednak z góry wiadomo, że zostały stworzone przez AI.

Jak rozpoznać deepfake?

Znacznie poważniejszy problem stanowią filmy, które udają autentyczne nagrania np. z wypowiedziami polityków czy celebrytów (tzw. deepfake’i) .

Ich twórcy celowo nie oznaczają materiału jako wygenerowanego przez AI, co daje im ogromne pole do popisu w kwestii dezinformacji i szerzenia określonych poglądów.

W świecie, w którym takie materiały będziemy napotykać coraz częściej, warto wiedzieć, jak je rozpoznawać.

Choć najnowsze modele znacząco poprawiły jakość obrazu, wciąż istnieje kilka sygnałów ostrzegawczych:

• Niska rozdzielczość i jakość obrazu: rozmazany kadr, mało płynne przejścia czy artefakty mogą świadczyć o pochodzeniu materiału, dlatego twórcy specjalnie pogarszają jego jakość, by film wyglądał jak nagrany telefonem lub starą kamerą.
• Błędy anatomiczne: dawniej AI słabo radziła sobie z detalami, np. generując postaci posiadające więcej, niż pięć palców u dłoni. Dziś dzieje się to rzadziej, ale nadal warto zwracać uwagę na szczegóły. 
• Długość nagrania: nawet najbardziej zaawansowane modele, jak Veo i Sora pozwalają na generowanie krótkich, kilkusekundowych klipów. Jeśli wideo jest dłuższe, często składa się z połączonych fragmentów, co może objawiać się niespójnością ruchów lub zmianą tła.
• Zła synchronizacja dźwięku i obrazu: ruch warg może nie pasować do wypowiadanych słów, a ton głosu może być zbyt „czysty” lub oderwany od mimiki postaci.
• Nieprawidłowe oświetlenie: nienaturalne, migające cienie, błyszcząca skóra czy „plastikowe” lub 'zbyt idealne” rysy twarzy to typowe sugestie, że wideo zostało wygenerowane przez AI.
• Metadane pliku: jeśli twórca nie usunął metadanych udostępnionego filmu, niekiedy informacje o programie, który go wygenerował, znajdziemy właśnie w nich.

Ciekawym sposobem na sprawdzenie autentyczności nagrania jest też zrobienie zrzutu ekranu pierwszej klatki filmu i próba wyszukania go w Google Grafika.

W niektórych przypadkach ujawni to pierwotne zdjęcie, na którym oparto deepfake. W ostateczności można też skorzystać z detektorów treści generowanych przez AI, choć należy pamiętać, że (podobnie jak wykrywacze tekstów stworzonych przez AI) nie są one w pełni wiarygodne.

Trzeba jednak pamiętać, że powyższa “checklista” jest rozwiązaniem jedynie tymczasowym.

Modele coraz lepiej radzą sobie z generowaniem treści wideo i istnieją spore szanse, że za rok czy dwa odróżnienie realnego filmu od tego stworzonego przez AI przestanie być możliwe.

Dlatego przede wszystkim trzeba brać pod uwagę źródło, z którego pochodzi materiał – jeśli jest to konto w mediach społecznościowych, warto przyjrzeć się dacie jego założenia oraz historii publikacji.