Claude Fable 5 miał być pokazem siły Anthropic i kolejnym dowodem na to, że wyścig AI wszedł na poziom, na którym zwykłe chatboty zaczynają wyglądać jak kalkulatory z lat 90. Trzy dni później firma musiała gwałtownie odciąć dostęp do modelu, ponieważ rząd USA uznał, że w grę wchodzi bezpieczeństwo narodowe.
- Anthropic poinformowało, że otrzymało od rządu USA dyrektywę eksportową, która nakazuje zawieszenie dostępu do modeli Fable 5 i Mythos 5 dla wszystkich cudzoziemców, niezależnie od tego, czy znajdują się w USA, czy poza nimi.
- W praktyce firma zdecydowała się wyłączyć dostęp dla wszystkich klientów, aby uniknąć naruszenia przepisów.
- Według Anthropic sprawa ma dotyczyć potencjalnej metody obejścia zabezpieczeń Fable 5, czyli tzw. jailbreaka.
USA wstrzymują dostęp do Claude Fable 5
Anthropic znalazło się w centrum jednej z najostrzejszych interwencji państwa w rynek sztucznej inteligencji.
Zaledwie kilka dni po premierze Claude Fable 5 firma ogłosiła, że musi nagle wyłączyć dostęp do swojego najnowszego modelu oraz do Mythos 5.
Powodem jest dyrektywa eksportowa wydana przez rząd USA ze względu na bezpieczeństwo narodowe.
Rząd USA zakazał udostępniania Fable 5 i Mythos 5 cudzoziemcom.
Co ważne, chodzi nie tylko o osoby poza Stanami Zjednoczonymi, lecz także o rezydentów przebywających w USA, a nawet zagranicznych pracowników samego Anthropic.
W praktyce firma uznała, że najbezpieczniejszym rozwiązaniem będzie odcięcie dostępu wszystkim użytkownikom.
Fable 5 był promowany jako model nowej klasy, który jest znacznie mocniejszy od wcześniejszych wersji Claude’a i zaprojektowany z myślą o zaawansowanych zadaniach.
Anthropic podkreślało przy premierze, że model może pomagać m.in. w cyberbezpieczeństwie, badaniach naukowych i analizie skomplikowanych problemów.
Jednocześnie już wtedy było jasne, że mówimy o narzędziu, które wymaga wyjątkowych zabezpieczeń.
Bo jeśli model potrafi pomagać w obronie systemów, to w nieodpowiednich rękach może też pomóc je atakować.
Niby oczywiste, ale w Dolinie Krzemowej oczywistości czasem odkrywa się dopiero po komunikacie od rządu.
Według Anthropic rząd nie przedstawił firmie szczegółowego uzasadnienia swoich obaw.
Spółka twierdzi, że rozumie decyzję jako reakcję na potencjalną metodę obejścia zabezpieczeń Fable 5.
Chodzi o tzw. jailbreak, czyli sposób zmuszenia modelu do wykonania czegoś, czego normalnie powinien odmówić.
Konflikt na linii Anthropic-rząd USA
Anthropic twierdzi, że obawy amerykańskiej władzy są przesadzone.
Firma zapewnia, że nie odkryto magicznego klucza do zdjęcia wszystkich blokad z Fable 5.
Według spółki chodziło o technikę, która pozwalała zidentyfikować niewielką liczbę wcześniej znanych i relatywnie prostych podatności.
Anthropic dodaje, że podobne błędy potrafią znajdować także inne publicznie dostępne modele.
Administracja USA patrzy na to inaczej. Dla regulatorów problemem nie jest tylko to, co model zrobił dziś, ale to, co może umożliwić jutro.
Ta sprawa oznacza poważne zaostrzenie amerykańskiego podejścia do kontroli eksportu sztucznej inteligencji.
Do tej pory USA skupiały się głównie na chipach i sprzęcie potrzebnym do trenowania modeli. Teraz ograniczenia zaczynają dotykać samych modeli, czyli gotowych narzędzi.
To ważny sygnał dla całej branży AI.
Jeżeli najbardziej zaawansowane systemy zaczną być traktowane jak technologia strategiczna, dostęp do nich może przypominać bardziej handel sprzętem wojskowym niż zwykłą subskrypcję aplikacji w chmurze.
Dla firm takich jak Anthropic, OpenAI czy Google oznacza to zupełnie nową rzeczywistość: nie wystarczy zbudować mocny model. Trzeba jeszcze przekonać państwo, że świat się od niego nie zapali.
Śledź CrypS. w Google News. Czytaj najważniejsze wiadomości bezpośrednio w Google! Obserwuj ->
Zajrzyj na nasz telegram i dołącz do Crypto. Society. Dołącz ->
