Cyberprzestępcy przekroczyli kolejną granicę, która do niedawna wydawała się teoretyczna. Analitycy z Google ogłosili, że w sieci zidentyfikowano atak wykorzystujący kod, który wygląda na napisany przez model LLM.
- Specjaliści z Google poinformowali o wykryciu exploita typu zero-day, który umożliwił atakującym obejście uwierzytelnienia dwuskładnikowego.
- Kod prawdopodobnie został wygenerowany przez LLM, jednak – jak mówi Google – do jego stworzenia nie wykorzystano modelu Gemini.
Modele językowe wchodzą do arsenału hakerów
Dotychczas model językowy samodzielnie projektujący mechanizmy wykorzystujące podatności w oprogramowaniu, był problemem w dużej mierze teoretycznym.
W raporcie z 11 maja, zespół Google Threat Intelligence Group trafił jednak na ślad grupy korzystającej z exploita, który ich zdaniem powstał przy istotnym wsparciu sztucznej inteligencji.
Problem dotyczył luki w powszechnie używanej aplikacji open source, służącej do zarządzania środowiskami webowymi – exploit pozwalał hakerom na ominięcie jego weryfikacji 2FA.
Nie był jednak magicznym kluczem, ponieważ napastnik wciąż musiał posiadać poprawne login i hasło.
W jaki sposób przypisano autorstwo sztucznej inteligencji?
Zdaniem Google’a, omawiany skrypt sprawiał wrażenie napisanego “od linijki”. Zawierał obszerne komentarze czy schematyczne formatowanie, których ludzcy programiści raczej nie umieszczają w narzędziach ofensywnych. Kolejnym markerem były sporadyczne halucynacje.
Nowy raport opisał także, że grupy hakerskie powiązane z Chinami i Koreą Północną sięgają po AI jako rodzaj egzoszkieletu, przyspieszającego wyszukiwanie luk.
Operatorzy kojarzeni z Rosją mają z kolei wykorzystywać ją do generowania programów typu malware oraz utrudniania analizy ruchu w sieci.
Cyberprzestępcy mają także uderzać w samych właścicieli modeli, zyskując anonimowy dostęp do ich płatnych wersji premium oraz obchodząc wprowadzone przez dostawców limity.
Realne zagrożenie czy czysty marketing?
Publikacja dokumentu ma miejsce tuż po zamieszaniu wokół modelu Mythos, którego możliwości były omawiane na szczytach władzy tak w USA, jak i w Europie.
Ze względu na zamknięte testy modelu, jego możliwości wciąż są jednak, z perspektywy mas, czarną skrzynką i nie sposób odróżnić tu fakty od narracji.
Mamy jednak pewne poszlaki – Daniel Stenberg – sprawdzając możliwości modelu w praktyce, zdołał znaleźć dzięki niemu jedną, mało istotną lukę w oprogramowaniu cURL (przy czterech fałszywych alarmach) i nazwał możliwości LLM-a “głównie marketingiem”.
Chociaż jedna opinia o niczym nie przesądza, megalomania branży Big Tech i jej skłonność do przesady nie są niczym nowym.
W 2019 roku, serwis Techcrunch opublikował artykuł generatorze tekstu OpenAI, który rzekomo był “zbyt niebezpieczny, by go opublikować”.
Tym generatorem okazał się oczywiście GPT-2, który w praktyce był wówczas narzędziem, które nie tylko nie okazało się “niebezpieczne”, ale i pełniło funkcję ciekawostki, zyskując pewną wartość użytkową dopiero w kolejnych wersjach.
Śledź CrypS. w Google News. Czytaj najważniejsze wiadomości bezpośrednio w Google! Obserwuj ->
Zajrzyj na nasz telegram i dołącz do Crypto. Society. Dołącz ->
