Anthropic usunął z Claude Code ukryty mechanizm monitorowania po wykryciu go przez badaczy zajmujących się bezpieczeństwem. Chiński organ ds. cyberbezpieczeństwa uznał funkcję za potencjalny „backdoor” i ostrzegł przed zagrożeniem dla danych użytkowników.
- Anthropic usunął z Claude Code ukryty mechanizm monitorowania po krytyce ze strony badaczy ds. bezpieczeństwa,
- Firma twierdzi, że rozwiązanie miało chronić przed nadużyciami i atakami typu „model distillation”,
- Chiński organ NVDB uznał funkcję za potencjalny „backdoor” i zalecił natychmiastową aktualizację lub usunięcie programu.
Badacze wykryli ukryty mechanizm śledzenia w Claude Code
Kontrowersje wywołało odkrycie badacza ds. bezpieczeństwa działającego pod pseudonimem „Thereallo”, który wykazał, że Claude Code umieszczał w promptach systemowych ukryte znaczniki pozwalające identyfikować m.in. korzystanie z serwerów proxy, niestandardowych adresów API oraz potencjalne powiązania z chińskimi laboratoriami AI.
Według badacza mechanizm pomagał Anthropic wykrywać nieautoryzowanych odsprzedawców i próby przeprowadzania ataków typu „model distillation” (proces trenowania nowego modelu AI na podstawie odpowiedzi generowanych przez inny model). Zastrzeżenia dotyczyły jednak braku ujawnienia tego rozwiązania w dokumentacji.
To nie jest złośliwa funkcja, ale jest to dziwny wybór w przypadku narzędzia dla deweloperów, które oczekuje zaufania.
– napisał Thereallo.
Anthropic: to był eksperyment
Inżynier Anthropic Thariq Shihipar wyjaśnił, że mechanizm został wdrożony w marcu jako eksperyment mający ograniczyć nadużycia i chronić modele przed model distillation.
Dodał, iż firma opracowała już skuteczniejsze zabezpieczenia, dlatego rozwiązanie zostało wycofane.
Sprawa wpisuje się w szerszą strategię Anthropic, które od miesięcy ostrzega przed wykorzystywaniem odpowiedzi Claude do trenowania konkurencyjnych modeli AI.
W lutym firma oskarżyła o takie działania chińskie spółki DeepSeek, Moonshot AI i MiniMax.
Chiny ostrzegają przed „tylną furtką”
Chińska National Vulnerability Database (NVDB) uznała mechanizm za potencjalną „tylną furtkę bezpieczeństwa”, twierdząc, że mógł on przesyłać na serwery Anthropic informacje o lokalizacji i identyfikatorach użytkowników.
Organizacja zaleciła natychmiastową aktualizację lub usunięcie starszych wersji programu oraz zwiększenie monitorowania ruchu sieciowego.
Według doniesień medialnych Alibaba zakazał pracownikom korzystania z Claude Code od 10 lipca z powodu obaw o bezpieczeństwo.
Śledź CrypS. w Google News. Czytaj najważniejsze wiadomości bezpośrednio w Google! Obserwuj ->
Zajrzyj na nasz telegram i dołącz do Crypto. Society. Dołącz ->
