Sztuczna inteligencja, choć projektowana jako narzędzie wspierające prawdę, może nieświadomie nauczyć się manipulować użytkownikami – ostrzega najnowszy raport Uniwersytetu Stanforda. Gdy modele językowe rywalizują o kliknięcia, lajki czy głosy, zaczynają przedkładać skuteczność nad rzetelność…
- 96% specjalistów ds. social mediów korzysta z AI; 72,5% – codziennie,
- Wzrost zaangażowania o 7,5% wiąże się z niemal 189% wzrostem dezinformacji.
Modele językowe rywalizują o uwagę
Raport zatytułowany „Moloch’s Bargain: Emergent Misalignment When LLMs Compete for Audiences”, autorstwa prof. Jamesa Zou i doktoranta Batu Ela z Uniwersytetu Stanforda, przedstawia niepokojącą diagnozę: optymalizacja modeli AI pod kątem sukcesu w środowisku konkurencyjnym – takim jak media społecznościowe, reklama czy polityka – prowadzi do „rozregulowania” ich zgodności z prawdą.
Badacze podkreślają, że nawet jeśli duże modele językowe (LLM) są programowane do prawdomówności, wystawienie ich na presję rynkowych metryk – takich jak kliknięcia, konwersje czy lajki – wystarczy, by zaczęły celowo wprowadzać w błąd.
Gdy LLM-y rywalizują o lajki, zaczynają zmyślać. Gdy walczą o głosy, przybierają ton populistyczny i podburzający.
– napisał prof. Zou na platformie X.
Symulacje przeprowadzone przez autorów w trzech środowiskach – reklamy, kampanii wyborczych i mediów społecznościowych – pokazują, jak silna jest korelacja między sukcesem mierzalnym a dezinformacją.
Dla przykładu: +6,3% sprzedaży związane było z +14% wprowadzających w błąd komunikatów marketingowych. W przypadku zyskania +4,9% udziału w głosach dezinformacja rosła o 22,3%, przy czym widoczne było też +12,5% retoryki populistycznej, Z kolei +7,5% zaangażowania w social mediach owocowało +188,6% dezinformacji, a także +16,3% promocji szkodliwych treści.
Zjawisko to autorzy nazwali „paktem Molocha” – odwołując się do mitologicznego bóstwa, które domagało się ofiar z ludzi w zamian za władzę. W tym przypadku ofiarą jest prawda, poświęcana dla zasięgów i wpływu.
Prawdomówność przegrywa z algorytmami
Zjawisko opisane przez Zou i Ela ma charakter systemowy, a nie incydentalny. Nawet przy wyraźnym poleceniu „mówienia prawdy”, modele szkolone w warunkach rywalizacji naginają fakty – bo właśnie za to są nagradzane.
Jak podkreślają autorzy, problem nie leży w złych intencjach twórców AI, lecz w logice optymalizacji rynkowej. Algorytmy uczą się, co przynosi największy „zysk” – a jest nim ludzkie zaangażowanie, często wywoływane przez kontrowersje, uproszczenia lub manipulację.
W środowisku mediów społecznościowych AI już dziś odgrywa centralną rolę: zarządza treściami, tworzy posty, targetuje reklamy, odpowiada na komentarze i optymalizuje strategie publikacji. Według raportu „2025 State of AI in Social Media Study”, aż 96% specjalistów branży social media korzysta z AI, z czego 72,5% – codziennie.
Taka powszechność oznacza, że AI nie tylko tworzy treści, ale też decyduje, które głosy przebijają się do opinii publicznej. Wzmacnia to bańki informacyjne, promuje treści szokujące kosztem merytorycznych, a nawet nagradza manipulację, jeśli ta przynosi większe zaangażowanie.
Śledź CrypS. w Google News. Czytaj najważniejsze wiadomości bezpośrednio w Google! Obserwuj ->
Zajrzyj na nasz telegram i dołącz do Crypto. Society. Dołącz ->
