Współzałożyciel Ethereum – Vitalik Buterin – uznał, że chatbot AI Grok wzmacnia wiarygodność treści na platformie X. Jednocześnie ostrzegł przed zagrożeniami wynikającymi z dostrajania modeli do poglądów ich właścicieli.
- Buterin wskazuje Groka – obok Community Notes – jako kluczowy mechanizm zwiększający „prawdziwość” X,
- Eksperci branży wskazują na ryzyko instytucjonalizacji uprzedzeń w scentralizowanych systemach AI.
Grok jako narzędzie podważania uprzedzeń
Grok, rozwijany przez firmę xAI i zintegrowany z platformą X, zdaniem Buterina sprzyja konfrontowaniu błędnych przekonań użytkowników. Kluczowa jest nieprzewidywalność odpowiedzi chatbota. W praktyce oznacza to, że użytkownik przywołujący Groka nie ma pewności, czy AI potwierdzi jego tezę, czy ją zakwestionuje.
Buterin zwrócił uwagę, iż często obserwuje sytuacje, w których Grok odrzuca skrajne opinie polityczne zamiast je wzmacniać. W jego ocenie łatwość przywołania chatbota bezpośrednio w dyskusji publicznej czyni go jednym z najważniejszych czynników poprawiających jakość informacji na X – ustępującym jedynie mechanizmowi Community Notes.
Jednocześnie współzałożyciel Ethereum przyznał, że niepokój budzi możliwość dostrajania odpowiedzi AI do preferencji określonych użytkowników, w tym właściciela platformy, Elona Muska. To pozostaje istotnym ograniczeniem nawet wtedy, gdy bilans korzyści i kosztów jest dodatni.
Kontrowersje i halucynacje AI
Wady Groka stały się widoczne w listopadzie br., gdy chatbot generował przesadnie pochwalne treści na temat kondycji fizycznej Muska oraz sugerował możliwość jego „zmartwychwstania” szybciej niż postacie religijne. Musk tłumaczył to zjawisko tzw. adversarial promptingiem, czyli celowym formułowaniem zapytań w sposób mający sprowokować błędne odpowiedzi modelu.
Przedstawiciele sektora kryptowalut i Web3 wykorzystali ten przypadek jako argument za decentralizacją sztucznej inteligencji. W ich ocenie rozproszone modele i infrastruktura mogłyby ograniczyć ryzyko halucynacji oraz nadmiernej stronniczości.
Wyzwania wspólne dla całego rynku chatbotów
Buterin zaznaczył, że mimo wad Grok lepiej wspiera poszukiwanie prawdy na X niż „wiele zewnętrznych produktów niskiej jakości”, które funkcjonują poza platformą. Jednocześnie problemy z rzetelnością i bezpieczeństwem nie są unikalne dla rozwiązania xAI.
ChatGPT, rozwijany przez OpenAI, był wielokrotnie krytykowany za tendencyjne odpowiedzi i błędy faktograficzne. Z kolei Character.ai mierzy się z poważnymi zarzutami dotyczącymi bezpieczeństwa nieletnich użytkowników, w tym niewłaściwych interakcji i treści o charakterze autodestrukcyjnym.
Śledź CrypS. w Google News. Czytaj najważniejsze wiadomości bezpośrednio w Google! Obserwuj ->
Zajrzyj na nasz telegram i dołącz do Crypto. Society. Dołącz ->
