Firma Anthropic, zajmująca się sztuczną inteligencją, ostrzega, że jej chatbot Claude jest wykorzystywany do przeprowadzania cyberataków na dużą skalę. Czy AI jednak zagraża ludzkości?
- Firma Anthropic ostrzega: jej model AI jest wykorzystywany przez hakerów.
- Chodzi o szerokie zastosowanie nowej technologii.
AI narzędziem w rękach przestępców
W raporcie „Threat Intelligence” opublikowanym w środę członkowie zespołu Threat Intelligence firmy Anthropic, w tym Alex Moix, Ken Lebedev i Jacob Klein, ostrzegają, że ich model AI stał się narzędziem cyberprzestępców. Wskazali na użycie chatbota Claude m.in. do żądania okupu przekraczającego 500 000 USD.
Mało tego, firma odkryła, że chatbot był wykorzystywany nie tylko do udzielania przestępcom porad technicznych, ale także do bezpośredniego przeprowadzania ataków hakerskich w ich imieniu.
Wskazano na tzw. hakowanie wibracyjne, czyli socjotechnikę wykorzystującą sztuczną inteligencję do manipulowania ludźmi, ich emocjami, zaufaniem i procesem decyzyjnym.
Anthropic zaprezentował przykład hakera, który wraz z Claudem przeprowadził „hakowanie wibracyjne” w celu kradzieży poufnych danych z co najmniej 17 organizacji – w tym z sektora opieki zdrowotnej, służb ratunkowych, instytucji rządowych i religijnych.
Żądał okupów w wysokości od 75 000 do 500 000 USD w bitcoinach.
Najpierw przestępca wyszkolił Claude’a w zakresie wyceny skradzionych dokumentów finansowych, obliczania na tej bazie odpowiednich kwot okupu i pisania spersonalizowanych wiadomości z prośbą o okup. Miało to zmaksymalizować jego zysk.
Chociaż Anthropic zablokował konto atakującego, sprawa pokazała, że sztuczna inteligencja nie tylko ułatwia życie uczciwym osobom, ale też przestępcom.
Północnokoreańscy hakerzy trzymają rękę na pulsie
W sprawie pojawia się także wątek północnokoreańskich hakerów, którzy korzystali z Claude’a w fałszowaniu dokumentów tożsamości i zdawania technicznych testów kodowania, co pomagało im w zdobywaniu stanowisk w amerykańskich firmach technologicznych.
W ten sposób infiltrowali struktury tych spółek i ostatecznie je okradali.
Niedawno odkryto, że sześcioosobowy zespół cyberprzestępców posługiwał się co najmniej 31 fałszywymi tożsamościami, by zdobywać pracę w firmach-celach.
Operacje te były szczegółowo przygotowywane – AI pomagała im w fałszowaniu dokumentów tożsamości, do tego dochodziły zarejestrowane na fałszywe dane numery telefonów i spreparowane konta na LinkedIn i UpWork.
Śledź CrypS. w Google News. Czytaj najważniejsze wiadomości bezpośrednio w Google! Obserwuj ->
Zajrzyj na nasz telegram i dołącz do Crypto. Society. Dołącz ->
