Sztuczna inteligencja poinformowała o… śmierci Donalda Trumpa. Powód? Zasugerowała się postem z forum Reddit.
- Wyszukiwarka DuckDuckGo podała nieprawdziwą wiadomość o śmierci Donalda Trumpa, opartą na absurdalnym wpisie z Reddita.
- AI zostało „nakarmione” treściami z Reddita i nie odróżniło żartu/dezinformacji od faktów, co pokazuje ograniczenia modeli w ocenie wiarygodności informacji.
- Platforma jest atrakcyjna dla modeli (dużo naturalnych wypowiedzi, system ocen, umowy z firmami AI), ale jednocześnie ułatwia szerzenie dezinformacji i manipulacji treściami.
Trump nie żyje? AI twierdzi, że tak
Wyszukiwarka internetowa DuckDuckGo w ostatnich dniach informowała o tym, że prezydent Stanów Zjednoczonych Donald Trump zmarł 7 czerwca.
Do tego powodem zgonu była infekcja wścieklizną po ugryzieniu go przez… wiceprezydenta J.D. Vance’a. Trudno o większą bzdurę. J
ak to jednak możliwe, że taka wiadomość pojawiła się w systemie wyszukiwarki? Problemem było AI, które „nakarmiono” fake newsami z forum Reddita.
Użytkownicy jednego z subforów podawali tam tego typu fake newsy (zapewne nieco dla żartu – Reddit zrzesza m.in. fanów czarnego humoru).
Dr Mateusz Łabuz, naukowiec z Uniwersytetu w Hamburgu (IFSH) oraz autor książki „Przed waszą erą. Człowiek w syntetycznym świecie deepfake’ów, ChataGPT i sztucznej inteligencji” powiedział PAP, że użytkownicy Reddita po prostu strollowali AI, gdyż wiedzieli, że ta analizuje niektóre wątki na forum.
A że nadal ma problem z rozróżnianiem prawdy od fake’ów, to przeglądarka podała fake newsa.
Dlaczego AI sięga po Reddita?
Dr Łabuz twierdzi, że są trzy powody, dla których Reddit jest źródłem wiedzy dla AI.
Przede wszystkim chodzi o dużą liczbę autentycznych i naturalnych wypowiedzi publikowanych na forum.
Do tego dochodzi spora liczba „ludzkich” komentarzy. I może najważniejsze: system głosowania. Każdy wpis można na Reddit wyróżnić oddając na niego głos. To zwiększa jego wiarygodność.
Nie można też zapomnieć o tym, że Reddit w lutym 2024 r. podpisał umowę z Google, która pozwala trenować modele AI na podstawie wpisów na platformie.
I był to błąd. Jak wynika z badania naukowców w Uniwersytetu Cornell, teraz firmy mogą umieszczać na forum swoje treści promocyjne i tym inspirować sztuczną inteligencję.
Na to wszystko nakłada się dezinformacja. Kraje wrogie USA – Rosja czy Chiny – mogą w prostszy sposób propagować swoje narrację i fake newsy.
O podobnym problemie pisaliśmy niedawno w kontekście Wikipedii.
Śledź CrypS. w Google News. Czytaj najważniejsze wiadomości bezpośrednio w Google! Obserwuj ->
Zajrzyj na nasz telegram i dołącz do Crypto. Society. Dołącz ->
