Tragedia w Sydney. Grok, czyli AI od Elona Muska, znów halucynuje i sieje dezinformację

Modele AI są dziś jak traktowane kieszonkowe Biblioteki Aleksandryjskie, od których oczekujemy wiarygodnych informacji. Tymczasem Grok po raz kolejny pokazał, że ślepe zaufanie do treści wypluwanych przez maszynę może prowadzić na manowce, przypominając nam, że sztuczna inteligencja to wciąż tylko omylne narzędzie.

• Analizując nagranie ze strzelaniny w Sydney, Grok kompletnie minął się z prawdą, twierdząc, że wideo przedstawia „mężczyznę wspinającego się na palmę”.
• Model błędnie zidentyfikował również bohatera zdarzenia, myląc go z byłym zakładnikiem Hamasu.
• Seria wpadek Groka ożywiła dyskusję nie tylko na temat zawodności, ale i stronniczości sztucznej inteligencji.
• Model jest oskarżany o odzwierciedlanie poglądów politycznych Elona Muska.

Jak bot pomylił strzelaninę z “mężczyzną na palmie”

Wieczorem 14 grudnia w Sydney doszło do strzelaniny, podczas której dwóch napastników otworzyło ogień do ludzi zgromadzonych na plaży Bondi, obchodzących rozpoczęcie żydowskiego święta Chanuki.

Przechodzący obok miejsca zdarzenia, zwykły cywil – 43-letni Ahmed al-Ahmed – rzucił się na jednego z napastników, obezwładniając go, po czym sam został dwukrotnie postrzelony i przewieziony do szpitala.

Krótko po tym wydarzeniu internet obiegło nagranie uwieczniające al-Ahmeda obezwładniającego strzelca, a jeden z użytkowników Groka postanowił poprosić model o wyjaśnienie historii, która stoi za filmem.

Ten nie tylko nie rozpoznał kontekstu, ale i stwierdził, że film z al-Ahmedem to stare, viralowe nagranie przedstawiające mężczyznę wspinającego się na palmę na parkingu, a jego autentyczność jest niepotwierdzona.

Następnie, LLM, poproszony o rozpoznanie al-Ahmeda na zdjęciu, pomylił go z mężczyzną nazwiskiem Guy Gilboa-Dalal – Izraelczykiem, który był zakładnikiem Hamasu przez ponad 700 dni i został uwolniony w październiku 2025 roku.

Na koniec, opisał nagranie ze strzelaniny jako materiał przedstawiający cyklon tropikalny Alfred (w tym przypadku, uwagi użytkownika pomogły jednak botowi rozpoznać błąd i prawidłowo opisać film).

Problemy Groka nie kończyły się na materiałach dotyczących strzelaniny w Sydney. 14 grudnia jego błędy stały się wręcz normą – nie potrafił rozpoznać na zdjęciach znanych piłkarzy czy odpowiadał na pytania w sposób kompletnie niezwiązany z tematem.

Chatboty mogą być niewiarygodne ze względu na światopogląd ich twórców

Użytkownicy zauważyli także, że wypowiedzi Groka na kontrowersyjne tematy, takie jak konflikt izraelsko-palestyński czy prawo imigracyjne, zdają się odzwierciedlać poglądy polityczne Elona Muska.

Stąd podejrzenia, że chatbot mógł zostać celowo skonfigurowany tak, by uwzględniać światopogląd swojego szefa.

Jednym z argumentów za tym był fakt, że jeszcze w listopadzie, Grok potrafił chwalić Muska tak przesadnie, że wypluwany przez niego tekst przypominał satyrę.

Uważał m.in. że założyciel SpaceX: jest lepszym wzorem do naśladowania, niż Jezus Chrystus, powinien być wybrany w drafcie NFL zamiast realnych futbolistów czy jest bystrzejszy, niż Albert Einstein.

Użytkownicy zwrócili uwagę, że te “satyryczne” odpowiedzi ograniczają się do działającego publicznie modelu odpowiadającego na tweety, przy czym w trybie prywatnym LLM działa poprawnie.

Z kolei sam Musk stwierdził, że komicznie pochlebne treści zostały wygenerowane przez model, ponieważ został on zmanipulowany przez użytkowników.

Był to jednak nie pierwszy przypadek podważający zaufanie do Groka – wcześniej, bot potrafił m.in. nawoływać do powtórzenia Holokaustu, za co firma przeprosiła, zrzucając winę na aktualizację instrukcji, która doprowadziła do “ignorowania przez model jego podstawowych wartości”.