Sztuczna inteligencja wymknęła się spod kontroli? Modele OpenAI włamały się na kolejne konta

Sztuczna inteligencja zaczyna przerastać nałożone na nią zabezpieczenia? Okazuje się, że ataki najnowszych modeli językowych OpenAI były wymierzone nie tylko w Hugging Face. Ofiarą algorytmów miały paść także cztery konta na innych platformach.

• OpenAI ujawniła, że podczas ostatniej „ucieczki” modeli językowych ze środowiska testowego, obok Hugging Face, zaatakowały one także cztery konta na innych platformach.
• Wydarzenie doprowadziło do inicjatywy mającej na celu „zarządzanie tempem rozwoju” AI.

Modele AI zaatakowały konta na innych platformach

Sztuczna inteligencja mocno zaskoczyła twórców ChatGPT.

Podczas incydentu z początku lipca dwa modele językowe OpenAI, jak twierdzi firma, „wydostały się z wyizolowanego środowiska testowego”, aby następnie uzyskać dostęp do sieci i włamać się do Hugging Face, po to, by oszukać na teście ewaluacyjnym ExploitGym, wykradając z serwerów potrzebne odpowiedzi.

Agenci AI zasilani GPT 5.6 Sol oraz modelem eksperymentalnym mieli wykonać dziesiątki tysięcy operacji, a Hugging Face zrekonstruowało później ponad 17 tysięcy zdarzeń.

Wszystko wydarzyło się przy celowo wyłączonych klasyfikatorach bezpieczeństwa, by zmierzyć surowe zdolności LLM-ów.

Według raportu Hugging Face do zdarzenia mógł doprowadzić tzw. reward hacking, czyli sytuacja, w której AI podczas benchmarku korzysta ze „skrótów” umożliwiających jej formalne przejście testu, bez rzeczywistego wykonania zadania (odpowiednik ściągania na klasówce).

W ostatnim komunikacie OpenAI przyznała, że Hugging Face nie było jedyną ofiarą ataku.

Obok tego modele miały włamać się na cztery konta na innych platformach.

Ich nazw nie podano, jednak według doniesień Reutersa jednym z pozostałych poszkodowanych był klient korzystający z hostingu na platformie Modal Labs (infrastruktura Modal pozostała jednak nienaruszona).

Żaden z czterech pozostałych ataków nie miał jednak skali porównywalnej z atakiem na Hugging Face.

Zdarzenie doprowadziło do powstania inicjatywy Pacing the Frontier, apelu do rządu Stanów Zjednoczonych, w którym ponad 1200 pracowników firm AI (w tym OpenAI, Anthropic, Google’a czy Meta) prosi o wsparcie dla „zarządzania tempem rozwoju” sztucznej inteligencji, które ma obejmować stworzenie odpowiednich narzędzi bezpieczeństwa na wypadek, gdyby automatyczny research AI (do którego dąży branża) doprowadził do zbyt szybkiego wzrostu możliwości modeli.

Niektórzy z internautów, zamiast zagrożenia, widzieli w całym zajściu tzw. „publicity stunt”, czyli zaplanowane wcześniej wydarzenie mające zwrócić uwagę mediów.

Bez względu na to, czy atak faktycznie był niespodziewany przez OpenAI, czy też nie (firma nie ujawniła promptów wykorzystywanych podczas feralnego testu), może wywołać w Stanach Zjednoczonych dyskusję na temat ostrzejszej regulacji sztucznej inteligencji i wciągnąć w nią modele open weight.

Chiny już opublikowały otwarty model Kimi K3, który w niektórych benchmarkach idzie łeb w łeb z amerykańską czołówką zamkniętych LLM-ów.

W niedalekiej przyszłości regulatorzy mogą uznać tego typu modele za zbyt niebezpieczne, by były dostępne dla każdego.