Firma analityczna Graphika zauważa, że w sieci rozprzestrzenia się plaga deepfake’ów. Chodzi konkretnie o fałszywki, które przedstawiają znane osoby w intymnych sytuacjach. Według nowego raportu na temat intymnych obrazów wykonywanych bez czyjejś zgody (non-consensual intimate imagery, NCII) wynika, że praktyka ta nasila się wraz z ewolucją i rozprzestrzenianiem się generatorów obrazów AI.
W sieci mogą pojawić się "twoje" seks-fotki!
Z raportu
Kotaku wynika, że problem zaistniał już nie tylko w gronie celebrytek, ale również i znanych streamerek. Przykładowo,
Brandon „Atrioc” Ewing, znany w tej społeczności, przypadkowo ujawnił, że oglądał generowane przez sztuczną inteligencję deepfake'i porno przedstawiające znane koleżanki z jego branży.
Skala problemu zaczyna powalać.
Korzystając z danych dostarczonych przez Meltwater, zmierzyliśmy liczbę komentarzy i postów na Reddicie i X zawierających linki polecające do 34 stron internetowych i 52 kanałów Telegramu świadczących usługi syntetyczne NCII
– napisał analityk Graphiki,
Santiago Lakatos.
W 2022 r. było ich łącznie 1280 w porównaniu z ponad 32 100 w tym roku, co stanowi wzrost wolumenu o 2408% rok do roku
- wskazał na liczby.
Powodem jest rozwój
AI:
Te modele pozwalają większej liczbie dostawców łatwo i tanio tworzyć fotorealistyczne NCII na dużą skalę. Bez takich dostawców ich klienci musieliby hostować, utrzymywać i uruchamiać własne, niestandardowe modele rozpowszechniania obrazu, co jest procesem czasochłonnym, a czasem kosztownym.
Problem tkwi nie tylko w tym, że ktoś może potem obejrzeć porno ze znaną celebrytką (a dokładniej jej odbiciem w świecie AI).
W ten sposób można przecież tworzyć kompromitujące seks-taśmy znanych polityków, a także nagrania z nieletnimi.
Na problem wskazała też brytyjska firma monitorująca Internet,
Internet Watch Foundation (IWF). W jej nowym raporcie opublikowanym w środę czytamy, że
w ciągu zaledwie jednego miesiąca na jednym forum w darknecie odnaleziono ponad 20 254 tego typu obrazy wygenerowane przez sztuczną inteligencję.
Walka z wiatrakami
Niektóre gwiazdy idą z twórcami filmów na wojnę. Przykładami są
Scarlett Johansson czy indyjski aktor
Anil Kapoor. Tyle że przypomina to ścinanie głowy hydrze - gdy jeden łeb opadnie na ziemie, w jego miejscu pojawiają się już kolejne.
Na problem wskazuje m.in. była aktorka porno,
Tanya Tate. Jej zdaniem rozwój sztucznej inteligencji i deepfake'ów jest czymś, co przypomina jej wczesne lata internetu, gdy
"wzrosła liczba pirackich treści, a te, które były tworzone, zostały przejęte i wykorzystane w innym celu".
Rządzący muszą jakoś uregulować rynek AI, by
porno-AI nie rozprzestrzeniały się w takim tempie i nie uderzały w dobre imię znanych osób. Pytanie, jak to osiągnąć.
Komentarze