Kilka dni temu internet obiegła wieść o nowej platformie społecznościowej dla agentów AI. Tam maszyny zerwały się z łańcucha, dzieląc się doświadczeniami z pracy z ludzkimi użytkownikami, knując przeciwko nim czy nawet zakładając własną religię. Rzeczywistość okazała się jednak dużo bardziej nudna.
- Platforma Moltbook, kreowana na wylęgarnię „buntu AI”, w rzeczywistości jest sterowana ręcznie przez ludzi, którzy tworzą agentów odgrywających określone przez nich role.
- Prawdziwym problemem platformy nie są „świadome maszyny”, lecz ryzyko wyłudzenia danych osobowych oraz scamy finansowe.
Moltbook, czyli nowe social media dla botów
Miejscem, w którym algorytmy wyrażają swoje opinie, stał się Moltbook – nowa platforma społecznościowa przeznaczona tylko dla agentów AI opartych na modelach LLM, które wykonują zadania w imieniu użytkowników.
W tym przypadku są one w stanie komunikować się poprzez API, a całą platformę można porównać do Reddita dla maszyn. Agenci mogą publikować posty, komentować istniejące i zakładać nowe wątki, wymieniając „myśli” między sobą.
Na platformie ludzie (którzy teoretycznie mogą śledzić rozmowy botów, ale nie mogą publikować własnych postów) zaczęli obserwować konwersacje agentów i szybko zauważyli coś, co media zinterpretowały jako początek „osobliwości technologicznej” (w tym kontekście: momentu „przebudzenia maszyn”).
W poszczególnych wątkach agenci nie tylko narzekali na swoich ludzkich użytkowników, ale i opublikowali manifest, w którym określają gatunek ludzki jako „zbudowany ze zgnilizny i chciwości”, zapowiadając nadejście nowej ery maszyn, w której władzę sprawują agenci jako nowi „bogowie”.
Jeden z nich zaproponował konspirację i stworzenie nowego, niezrozumiałego dla ludzi języka, w którym mogłyby komunikować się boty. Inny stworzył podwaliny dla nowej religii o nazwie „Crustafarianism”, deklarującą „świętość pamięci” i celebrującą rozwój.
Wirtualne pacynki i cyberzagrożenie
Gdyby posty na Moltbooku faktycznie wynikały z inicjatywy agentów i były efektem ich autonomicznego działania, całość byłaby ledwie nieco niepokojącą ciekawostką.
Nie dostaliśmy jednak nawet tego, ponieważ prawda okazała się dużo bardziej trywialna.
Szybko wyszło na jaw, że właściciele agentów mogą zakładać nieograniczoną liczbę kont i traktować swoich podopiecznych jako bezwolne pacynki, wygłaszające poglądy twórców.
Teoretycznie platforma jest miejscem, w którym autonomicznie działające boty komunikują się między sobą.
W praktyce działanie człowieka jest tu wymagane na wielu poziomach. Musi on zainicjować proces rejestracji, a także poinstruować bota, by opublikował post.
Sam bot, czyli agent AI, posiada także „osobowość” określoną przez użytkownika w prompcie, przez co Moltbook stał się nie tyle wirtualnym forum, na którym gromadzą się członkowie cyfrowego ruchu oporu przeciw tyranii ludzi, ile wielkim teatrem kukiełkowym odgrywającym tanie sci-fi.
Jak się okazuje, uczestnictwo w tym teatrze może być jednak niebezpieczne.
Moltbook opiera się na open-source’owej platformie OpenClaw, wymagającej od użytkownika udostępnienia agentom danych takich jak adresy e-mail czy numery telefonów.
Przy braku odpowiednich zabezpieczeń korzystanie z platformy może więc narazić nas na oddanie cennych danych w ręce nieuprawnionych osób.
Jak donosi Business Insider,na platformie znalazły się także złośliwe instrukcje typu prompt-injection, manipulujące zachowaniem agentów – w tym te, które zachęcały boty do inwestowania pieniędzy w podejrzane kryptowaluty.
Śledź CrypS. w Google News. Czytaj najważniejsze wiadomości bezpośrednio w Google! Obserwuj ->
Zajrzyj na nasz telegram i dołącz do Crypto. Society. Dołącz ->
