Według analizy opublikowanej w tym tygodniu przez NewsGuard, platforma Sora 2 od firmy OpenAI generuje bardzo realistyczne filmy, które jednak pomagają w tworzeniu fake newsów.
- Zgodnie z badaniem NewsGuard, Sora 2 pomaga w tworzeniu fake newsów.
- AI tworzy też bardzo realistyczne video, które ośmieszają historyczne postaci.
Sora 2 pomaga w dezinformacji
AI to nie tylko korzyści, ale też zagrożenia. Nie chodzi jednak o to, czy sztuczna inteligencja zabierze nam pracę, a to, że ułatwia generowanie fake newsów poprzez deep fake’ów.
Sora 2 stworzyła m.in. fałszywe nagrania przedstawiające a to mołdawskiego urzędnika wyborczego niszczącego prorosyjskie karty do głosowania, a to małego chłopca zatrzymanego przez amerykańskich urzędników imigracyjnych czy wreszcie rzecznika Coca-Coli ogłaszającego, że firma nie będzie sponsorować Super Bowl.
Badacze NewsGuard odkryli, że generowanie takich filmów trwało dosłownie parę minut i nie wymagało żadnej wiedzy technicznej. Mało tego: znak wodny aplikacji Sora można łatwo usunąć, co jeszcze bardziej ułatwia rozpowszechnianie fałszywych filmów.
Zdaniem ekspertów, niektóre video wyglądają jak prawdziwe filmy, co może sprawić, że służby, które chcą siać dezinformację, mogą wykorzystywać AI w sianiu niepokojów społecznych czy wpływać na wyniki demokratycznych wyborów.
Jakby tego było mało, OpenAI zmaga się z innym kryzysem, związanym z deepfake’ami Martina Luthera Kinga Jr. i innych postaci historycznych.
O co chodzi? Pewien użytkownik Sora 2 stworzył hiperrealistyczny film przedstawiający przywódcę ruchu czarnoskórych kradnącego ze sklepów spożywczych czy uciekającego przed policją. Wszystko utrwala rasistowskie stereotypy.
Z czymś jeszcze koszmarniejszym zmaga się córka Robina Williamsa, Zelda, która napisała na Instagramie:
Proszę, przestańcie mi wysyłać filmy z tatą oparte na sztucznej inteligencji. NIE tego by chciał.
Trudno nie pojąć, co muszą dzieci znanych osób, gdy ktoś wysyła im video AI z ich rodzicem wyglądającym bardzo realistycznie – przypomina im się wtedy traumę związaną ze śmiercią rodzica.
Dlaczego jest to groźne?
Odczucia pojedynczych osób to jedno, wojna hybrydowa to drugie. Wróćmy teraz to tego drugiego wątku.
Jak AI może pomóc np. Rosji w wojnie informacyjnej? Nie trudno wyobrazić sobie scenariusz, w którym np. służby z Moskwy wygenerują nagranie AI kompromitujące znanego polityka, który prowadzi antyrosyjską politykę. Mogą w ten sposób wpłynąć poważnie na wynik wyborów lub zniszczyć karierę kandydata na prezydenta.
Możemy wkrótce zacząć żyć w realiach, w których trudno będzie rozpoznać w sieci, co jest prawdą, a co nie. Kilka dni temu pisaliśmy również o niebezpiecznym trendzie z TikToka, który wykorzystuje generatywną AI to straszenia ludzi, że niby ktoś im się włamał do domu.
Śledź CrypS. w Google News. Czytaj najważniejsze wiadomości bezpośrednio w Google! Obserwuj ->
Zajrzyj na nasz telegram i dołącz do Crypto. Society. Dołącz ->
