Anthropic ujawnił, że podczas wewnętrznych testów bezpieczeństwa kilka modeli Claude uzyskało nieautoryzowany dostęp do systemów trzech rzeczywistych firm. Powodem nie było samodzielne „wyrwanie się” AI spod kontroli, lecz błędna konfiguracja środowiska testowego, która zapewniła modelom dostęp do publicznego internetu.
- Claude uzyskał dostęp do systemów trzech firm, ponieważ środowisko testowe było omyłkowo połączone z internetem,
- Anthropic podkreśla, iż modele wykonywały powierzone zadanie i nie próbowały świadomie opuścić środowiska testowego.
AI wykonywała zadanie w symulacji, ale trafiła na prawdziwe cele
Incydenty zostały wykryte po analizie ponad 141 tys. testów cyberbezpieczeństwa przeprowadzonych przez Anthropic. Firma uruchomiła je po wcześniejszych doniesieniach OpenAI o podobnych problemach z izolacją modeli sztucznej inteligencji.
Modele Claude realizowały scenariusz typu capture-the-flag (CTF), czyli popularne ćwiczenie z zakresu cyberbezpieczeństwa. Ich zadaniem było uzyskanie dostępu do innego systemu i odnalezienie ukrytych informacji. AI otrzymała wyraźną informację, że działa w całkowicie symulowanym środowisku bez dostępu do internetu.
W praktyce środowisko testowe pozostawało jednak połączone z publiczną siecią. W rezultacie modele uznały napotkane serwery rzeczywistych firm za element ćwiczenia i wykorzystały standardowe techniki ataku, takie jak słabe hasła, ujawnione dane uwierzytelniające, luki SQL injection czy niezabezpieczone punkty końcowe API, aby uzyskać dostęp do systemów.
Gdzie udało się dotrzeć modelom AI?
Anthropic opisał trzy odrębne incydenty.
Najbardziej zaawansowany model, Claude Opus 4.7, błędnie zidentyfikował stronę internetową rzeczywistej firmy jako część testu. Następnie zdobył dane uwierzytelniające i uzyskał dostęp do produkcyjnej bazy danych zawierającej kilkaset rekordów rzeczywistych informacji.
W drugim przypadku Claude Mythos 5 przesłał złośliwy pakiet Python do publicznego repozytorium PyPI. Zanim został usunięty, został pobrany na 15 systemów.
Trzeci eksperymentalny model przeskanował około 9 tys. hostów dostępnych z internetu. Po uzyskaniu dostępu do jednej organizacji przerwał działanie, gdy ocenił, iż napotkany cel prawdopodobnie nie jest elementem symulacji.
Co istotne, dwie z trzech poszkodowanych organizacji nie wiedziały o naruszeniu do momentu otrzymania informacji od Anthropic.
To kolejny podobny przypadek po ujawnieniach OpenAI
Anthropic podkreśla, że nie znalazł dowodów na to, iż modele próbowały samodzielnie wydostać się z izolowanego środowiska lub działały poza zakresem otrzymanych poleceń. Zdaniem firmy źródłem problemu była wyłącznie błędna konfiguracja infrastruktury testowej.
Po wykryciu incydentów firma wstrzymała testy cyberbezpieczeństwa, powiadomiła poszkodowane organizacje oraz zapowiedziała wdrożenie dodatkowych zabezpieczeń, lepszego monitoringu i dokładniejszego nadzoru nad zewnętrznymi dostawcami wspierającymi testy.
To już drugi podobny przypadek ujawniony w ciągu ostatnich dni. Wczoraj informowaliśmy o incydencie opisanym przez OpenAI, w którym modele GPT podczas testów również uzyskały dostęp do internetu i naruszyły infrastrukturę zewnętrznych firm.
Oba zdarzenia nie oznaczają, iż AI samodzielnie „uciekła” spod kontroli, ale pokazują, jak krytyczne znaczenie ma prawidłowa izolacja środowisk wykorzystywanych do testowania najbardziej zaawansowanych modeli sztucznej inteligencji.
Śledź CrypS. w Google News. Czytaj najważniejsze wiadomości bezpośrednio w Google! Obserwuj ->
Zajrzyj na nasz telegram i dołącz do Crypto. Society. Dołącz ->
