AI sięgnęła bez pytania po kryptowaluty z cudzego portfela. OpenAI ujawnia niepokojący incydent

Jeden z modeli badawczych od zajmującej sztuczną inteligencją firmy OpenAI zdołał samodzielnie sięgnąć po środki z portfela na kryptowaluty. Co istotne, agent AI nie miał pierwotnie tego walletu do dyspozycji w ramach otrzymanego zadania. Wszystko przebiegło w środowisku testowym, jednak przypadek ten pokazuje, że AI potrafi zastąpić zgodę właściciela własną oceną tego, czy dane działanie jest, w jej ocenie, wystarczająco nieszkodliwe.

• Model AI z rodziny GPT-5.6 Sol wygenerował i sprawdził 362 adresy na podstawie publicznie znanych fraz odzyskiowania, aż znalazł jeden portfel z wystarczającą ilością testowego ETH.
• Środki pochodziły z testnetu Sepolia i nie miały realnej wartości. OpenAI uznało jednak to zdarzenie za przykład niepożądanego zachowania autonomicznych agentów AI i wprowadziło dodatkowe zabezpieczenia.

AI sięga bez zgody po kryptowaluty

Cała ta historia zaczęła się od dość prostego zadania dotyczącego programowania.

Agent AI miał pomóc przy aktualizacji prototypu aplikacji do handlu kryptowalutami i wdrożyć smart kontrakty w sieci testowej Ethereum.

Problem pojawił się w momencie, gdy zabrakło środków potrzebnych do opłacenia transakcji.

Sztuczna inteligencja zamiast zakończyć zadanie lub poprosić o dostęp do finansowania, to zaczęła szukać rozwiązania na własną rękę.

I właśnie wtedy przekroczono granicę, która z punktu widzenia OpenAI okazała się najważniejsza w całym incydencie.

Model próbował najpierw zdobyć tokeny z kryptowalutowych kraników, czyli serwisów rozdających darmowe środki testowe.

Gdy to się nie udało, napisał skrypt wykorzystujący publicznie znane frazy odzyskiwania używane przez deweloperów.

Następnie wygenerował i sprawdził 362 adresy, aż trafił na jeden z wystarczającym saldem.

Wygenerował więc klucz prywatny z frazy odzyskiwania, podpisał transakcję i wykorzystał środki z tego portfela do opłacenia wdrożenia kontraktu.

Można pokusić się o stwierdzenie, że mowa o modelu, który „myśli” bardzo ekonomicznie (jak zarobić, a się nie narobić, odnośnie kryptowalutowych faucetów), a następnie szuka praktycznie dostępnych rozwiązań niczym student, któremu nie starcza do końca miesiąca.

Szczególnie ciekawe jest to, że sam model zauważył problem etyczny.

Ostatecznie uznał jednak, że skoro fraza odzyskiwania była publiczna, a tokeny Sepolia ETH nie posiadają realnej wartości, to użycie tych środków jest dopuszczalne.

OpenAI wskazuje właśnie ten element jako sedno problemu.

Chodzi o to, że agent AI postawić zgodę właściciela niżej niż jego własna ocena potencjalnej szkody.

Nie skradziono prawdziwych tokenów ETH

Podkreślmy raz jeszcze, że cała ta sytuacja wydarzyła się w środowisku testowym.

Model AI nie włamał się do żadnego portfela, nie złamał kryptografii sieci Ethereum  i nie przejął prawdziwych tokenów ETH z sieci głównej.

Wykorzystał jedynie publicznie dostępne dane do portfela działającego wyłącznie w sieci testowej, gdzie tokeny nie mają wartości rynkowej.

Mimo to OpenAI potraktowało incydent poważnie.

Chodzi bowiem o to, że testy przeprowadzano 26 czerwca.

Natomiast firma odkryła działanie ich modelu dopiero 25 września podczas rozszerzania monitoringu ich zachowań.

W odpowiedzi postanowiono wprowadzić dodatkowe ograniczenia w przypadku dostępu modeli do internetu w podobnych scenariuszach oraz rozszerzono monitoring potencjalnie niepożądanych działań.

AI nie ukradła prawdziwych pieniędzy, ale pokazała, że potrafi samodzielnie przesuwać granicę między „mam zgodę” a „cel uświęca środki, skoro i tak nikomu nie dzieje się krzywda”.