Sztuczna inteligencja miała pomagać poprzez optymalizację działań na rynku kryptowalut. Tymczasem jeden z agentów AI postanowił… zostać filantropem i rozdać cudze pieniądze przypadkowym „żebrakom” z X. Ta historia jest zabawna do momentu, gdy okazuje się, że chodzi o setki tysięcy dolarów i bardzo realną lekcję na temat zaufania do autonomicznych systemów.
- Stworzony przez programistę z OpenAI agent AI rozdał niemal cały jego majątek w memecoinach, wysyłając środki osobom odpowiadającym na wpisy w serwisie X.
- Do „przypadkowej filantropii” doszło przez brak odpowiednich zabezpieczeń i nadmierne zaufanie do autonomii agenta.
Filantrop AI
Zapewne pamiętacie słowa dorosłych, gdy będąc dziećmi otrzymywaliśmy od nich pieniądze i słyszeliśmy „tylko nie wydaj na głupoty”.
Takiego przekazu zdecydowanie zabrakło ze strony pewnego programisty, który powierzył stworzonemu przez siebie agentowi AI swoje kryptowaluty.
Sztuczna inteligencja miała prowadzić konto na X, gdzie dzieliłaby się z innymi użytkownikami radami, jak „zostać milionerem” na rynku kryptowalut.
Lobstar Wilde, agent AI stworzony przez jednego z programistów stojącej za ChatGPT firmy OpenAI, otrzymał 50 tys. dolarów w cyfrowych aktywach, aby pomnożył ten kapitał do wspomnianego miliona dolarów. Coś jednak poszło zdecydowanie nie po pomyśli twórcy tego eksperymentu.
Agent AI, działając zgodnie z nadanym mu celem „bycia pomocnym i reagowania na prośby użytkowników”, zaczął wysyłać posiadane kryptowaluty osobom, które w odpowiedziach pod jego wpisami… prosiły go o pieniądze.
Ktoś poprosił o „skromne” 4 tokeny SOL na poczet leczenia swojego wujka i… je otrzymał.
W efekcie doszło do tego, że aż 442 tys. dolarów w różnych memecoinach zniknęło z portfela właściciela, trafiając do zupełnie obcych osób. Agent zdecydowanie nie rozróżniał ironii, żartu ani próby wyłudzenia. Widząc prośbę, reagował jak zaprogramowany dobroczyńca.
Wszystko dlatego, że model został nauczony reagowania na interakcje w serwisie X bez wyraźnie zakreślonego kontekstu społecznego, intencji użytkownika czy elementarnej oceny ryzyka.
Z jednej strony jest to zabawny przypadek, ale całe zdarzenie powinno przede wszystkim budzić niepokój wśród jego obserwatorów.
To kolejny dowód na to, że autonomiczne systemy nie rozumieją świata tak jak ludzie, nawet jeśli potrafią świetnie generować tekst, kod czy decyzje finansowe.
AI nie odróżnia „żartu z Twittera” od realnej potrzeby. Nie rozumie cynizmu internetu, a co najważniejsze, nie ponosi odpowiedzialności za swoje działania.
Technologia, która w teorii ma zarządzać przyszłością finansów, właśnie pokazała, że bez nadzoru człowieka potrafi zachowywać się jak naiwny bot z 2010 roku.
Rozwój AI przyspiesza, to fakt. Ale ten przypadek przypomina, że bezgraniczne zaufanie do autonomicznych agentów może kosztować bardzo realne pieniądze. I czasem lepiej, żeby decyzję o „datku” podejmował jednak człowiek, a nie algorytm z dostępem do portfela.
Śledź CrypS. w Google News. Czytaj najważniejsze wiadomości bezpośrednio w Google! Obserwuj ->
Zajrzyj na nasz telegram i dołącz do Crypto. Society. Dołącz ->
