NCII to gwałt na czyimś wizerunku. Przez AI skala problemu zwiększyła się o ponad 2400%

Firma analityczna Graphika zauważa, że w sieci rozprzestrzenia się plaga deepfake’ów. Chodzi konkretnie o fałszywki, które przedstawiają znane osoby w intymnych sytuacjach. Według nowego raportu na temat intymnych obrazów wykonywanych bez czyjejś zgody (non-consensual intimate imagery, NCII) wynika, że praktyka ta nasila się wraz z ewolucją i rozprzestrzenianiem się generatorów obrazów AI.

W sieci mogą pojawić się „twoje” seks-fotki!

Z raportu Kotaku wynika, że problem zaistniał już nie tylko w gronie celebrytek, ale również i znanych streamerek. Przykładowo, Brandon „Atrioc” Ewing, znany w tej społeczności, przypadkowo ujawnił, że oglądał generowane przez sztuczną inteligencję deepfake’i porno przedstawiające znane koleżanki z jego branży.

Skala problemu zaczyna powalać.

Korzystając z danych dostarczonych przez Meltwater, zmierzyliśmy liczbę komentarzy i postów na Reddicie i X zawierających linki polecające do 34 stron internetowych i 52 kanałów Telegramu świadczących usługi syntetyczne NCII

– napisał analityk Graphiki, Santiago Lakatos.

W 2022 r. było ich łącznie 1280 w porównaniu z ponad 32 100 w tym roku, co stanowi wzrost wolumenu o 2408% rok do roku

– wskazał na liczby.

Powodem jest rozwój AI:

Te modele pozwalają większej liczbie dostawców łatwo i tanio tworzyć fotorealistyczne NCII na dużą skalę. Bez takich dostawców ich klienci musieliby hostować, utrzymywać i uruchamiać własne, niestandardowe modele rozpowszechniania obrazu, co jest procesem czasochłonnym, a czasem kosztownym.

Problem tkwi nie tylko w tym, że ktoś może potem obejrzeć porno ze znaną celebrytką (a dokładniej jej odbiciem w świecie AI). W ten sposób można przecież tworzyć kompromitujące seks-taśmy znanych polityków, a także nagrania z nieletnimi.

Na problem wskazała też brytyjska firma monitorująca Internet, Internet Watch Foundation (IWF). W jej nowym raporcie opublikowanym w środę czytamy, że w ciągu zaledwie jednego miesiąca na jednym forum w darknecie odnaleziono ponad 20 254 tego typu obrazy wygenerowane przez sztuczną inteligencję.

Walka z wiatrakami

Niektóre gwiazdy idą z twórcami filmów na wojnę. Przykładami są Scarlett Johansson czy indyjski aktor Anil Kapoor. Tyle że przypomina to ścinanie głowy hydrze – gdy jeden łeb opadnie na ziemie, w jego miejscu pojawiają się już kolejne.

Na problem wskazuje m.in. była aktorka porno, Tanya Tate. Jej zdaniem rozwój sztucznej inteligencji i deepfake’ów jest czymś, co przypomina jej wczesne lata internetu, gdy „wzrosła liczba pirackich treści, a te, które były tworzone, zostały przejęte i wykorzystane w innym celu”.

Rządzący muszą jakoś uregulować rynek AI, by porno-AI nie rozprzestrzeniały się w takim tempie i nie uderzały w dobre imię znanych osób. Pytanie, jak to osiągnąć.