Wpuścili AI na platformy social media. Eksperyment przyniósł niebezpieczny rezultat

Badanie przeprowadzone przez naukowców z Uniwersytetu Amsterdamskiego pokazało coś przerażającego. Chodzi o social media.

• Nowe badanie pokazuje, że podziały w social mediach nie muszą brać się z działania algorytmów.
• Wiele wskazuje na to, że są efektem ludzkiej natury.

Efekt kabiny pogłosowej

Zacznijmy od tego, czym jest efekt kabiny pogłosowej (ang. echo chambers) – pozwoli to pojąć sens eksperymentu, o którym jest ten tekst.

Polega ono na niejako zamknięciu ludzi z danego środowiska (np. o zbliżonych poglądach) w bańce informacyjnej – stają się oni wystawieni na te źródła informacji, które wzmacniają ich przekonania.

W efekcie dochodzi do podziału społeczeństwa. Tworzą się bańki, w których funkcjonują osoby z coraz większym przekonaniem, że ich racja jest tą właściwą.

Problem wzięli pod lupę naukowcy z Uniwersytetu Amsterdamskiego. Stworzyli specjalną platformę social mediów, w której umieścili jednak boty AI – aż 500 chatbotów opartych na modelu GPT-4o mini firmy OpenAI. Przypisano im różne persony i zrealizowano 5 różnych scenariuszy, z których każdy miał obejmować ok. 10 000 akcji botów.

Chatboty – jak ludzie – podzieliły się na grupy. Co jednak ważne, platforma naukowców nie została uzbrojona w algorytmy, które normalnie wzmacniają efekt kabiny pogłosowej. To sugeruje, że nawet reforma współczesnych portali typu Facebook czy X niewiele pomoże. Efekt baniek wynika raczej z ludzkiej natury, a nie tylko działań twórców portali społecznościowych.

Jak przeciwdziałać?

Naukowcy nie byliby jednak sobą, gdyby nie drążyli dalej. Starali się zmniejszyć negatywne efekty – a to ukrywali liczby polubień i udostępnień, a to promowali posty z odmiennymi poglądami danej grupy.

To ostatnie to szczególnie ciekawy pomysł, bo powinno zadziałać jak szpilka, która przebija bańkę. I faktycznie była poprawa, ale mała – ok. 6% zmian w zachowaniu botów.

Teraz eksperyment należałoby powtórzyć na ludziach, ale wiele wskazuje na to, że problemem nie są algorytmy w social mediach, ale ludzka natura, która jest „plemienna”.

Zresztą to logiczne – lubimy przebywać w towarzystwie osób podobnych do nas, z podobnymi doświadczeniami życiowymi, o podobnym statusie majątkowym, światopoglądzie czy moralności.