We wtorek w amerykańskim Departamencie Skarbu doszło do pilnego spotkania na szczycie. Sekretarz Skarbu oraz szef Fed wezwali do siebie prezesów największych banków – w tym Goldman Sachs, Bank of America i Citigroup. Powodem nadzwyczajnego zebrania był Claude Mythos – nowy model AI o zdolnościach do przeprowadzania cyberataków, które wg. twórców mają przewyższać możliwości większości ludzkich ekspertów.
- Pojawienie się modelu AI Claude Mythos, zdolnego do znajdowania i wykorzystywania luk w oprogramowaniu, może stworzyć zagrożenie dla globalnej stabilności finansowej.
- W odpowiedzi, amerykańscy regulatorzy finansowi zwołali spotkanie z prezesami kluczowych banków, aby zweryfikować gotowość sektora na nową erę cyberataków.
Sektor finansowy obawia się AI od Anthropic
Możliwości niepublicznego modelu językowego Claude Mythos od Anthropic mają pozwalać mu na wyszukiwanie i eksploatowanie podatności w oprogramowaniu na poziomie, który wcześniej był nieosiągalny dla modeli AI.
Według twórców, prześciga on już większość ludzkich ekspertów od cyberbezpieczeństwa i był w stanie znaleźć „tysiące” luk w popularnych aplikacjach. Najstarsza z nich miała mieć aż 27 lat.
Anthropic, świadoma ryzyka, po raz pierwszy w historii drastycznie ograniczyła dostęp do nowego LLM-a. W ramach inicjatywy o nazwie “Project Glasswing” kontrolowany dostęp do Claude Mythos otrzymali jedynie wybrani giganci (w sumie 40 firm) – w tym Amazon, Apple, Microsoft oraz bank JP Morgan.
Celem projektu jest próba okiełznania nowej technologii i łatanie luk w istniejących systemach, zanim wykorzystają je cyberprzestępcy.
W oczach opinii publicznej, skuteczność “kontrolowanego dostępu” została jednak podważona przez ostatni wyciek kodu źródłowego Claude Code, który zmusił Anthropic do usunięcia ponad 8000 repozytoriów na platformie GitHub.
Chociaż sytuacja dotyczyła “zaledwie” niezamierzonego udostępnienia kodu środowiska Claude Code, przy czym wagi modeli Claude pozostały bezpieczne, zostało to zinterpretowane jako dowód na kruchość kontroli nad technologią.
To ta interpretacja, w połączeniu z zagrożeniem ze strony Claude Mythos mogła wywołać reakcję regulatorów finansowych.
Wezwanie prezesów największych banków na pilne spotkanie przez Departament Skarbu i Fed miało na celu nie tylko poinformowanie ich o nowym ryzyku, ale i twardą weryfikację gotowości instytucji o znaczeniu systemowym na nadejście nowych zagrożeń i wymuszenie na nich podjęcia nadzwyczajnych środków ostrożności.
Po wtorkowym spotkaniu Bloomberg poprosił o komentarz wszystkich uczestników spotkania, jednak spotkał się z milczeniem.
Zarówno Departament Skarbu, Rezerwa Federalna, firma Anthropic, jak i wszystkie obecne na spotkaniu banki odmówiły komentarza lub nie odpowiedziały na zapytania.
Śledź CrypS. w Google News. Czytaj najważniejsze wiadomości bezpośrednio w Google! Obserwuj ->
Zajrzyj na nasz telegram i dołącz do Crypto. Society. Dołącz ->
