Hakerzy mogą zamienić asystenta AI w szpiega. Perplexity pokazuje, jak wykryć zagrożenie

AI hack

Hakerzy coraz częściej nie atakują już samego kodu, tylko narzędzia, które mają ten kod analizować. Wystarczy złośliwa konfiguracja asystenta AI, by pozornie zwykłe sprawdzanie projektu stało się początkiem infekcji systemu. Perplexity zaprezentowało teraz darmowe narzędzie, które ma wykrywać takie pułapki, zanim programista sam uruchomi zagrożenie.


  • Bumblebee skanuje komputer pod kątem zainfekowanych programów czy złośliwych dodatków do przeglądarek.
  • To pierwsze na świecie narzędzie, które bierze pod lupę warstwę używaną przez lokalnych asystentów AI takich jak Claude czy Cursor.

Perplexity wypuszcza darmowe narzędzie do wyszukiwania zagrożeń

Praktycznie wszystkie strony internetowe i aplikacje, których używamy, korzystają z tzw. paczek.

Można określić je jako dostępne za darmo gotowe kawałki oprogramowania, które deweloperzy pobierają dzięki menedżerom paczek (jak np. npm) i doklejają do własnych projektów.

Dzięki temu nie muszą pisać wszystkiego od zera (co w niektórych przypadkach mogłoby być nawet niemożliwe).

Robisz stronę internetową i potrzebujesz estetycznych wykresów do wizualizacji danych? Wystarczy ściągnąć jedną z paczek przez menedżera i rzucić okiem na jej dokumentację.

Okazało się jednak, że menedżerowie paczek, które możemy określić jako magazyny dla tych kawałków software’u, stały się celem cyberprzestępców.

W ostatnich miesiącach grupa hakerów TeamPCP zaczęła infekować popularne paczki.

W momencie, gdy ktoś instaluje jedną z nich na swojej maszynie, wirus aktywuje się automatycznie, kradnąc hasła czy klucze do usług chmurowych.

Od 11 maja atak TeamPCP rozlał się na ponad 170 popularnych paczek, wśród których znajdowały się m.in. narzędzia deweloperskie pobierane przez programistów miliony razy tygodniowo.

Szacuje się, że infekcja mogła dosięgnąć już więcej niż 15 milionów użytkowników. 

I tutaj wchodzi Perplexity z narzędziem open-source o nazwie Bumblebee, które ma za zadanie sprawdzić, czy hakerzy nie zostawili na naszej maszynie jednego ze swoich “prezentów”.

Przy czym główną zaletą narzędzia jest to, że w ogóle nie wywołuje ono menedżerów pakietów.

Brzmi banalnie, jednak w praktyce wiele tradycyjnych antywirusów “odpytuje” menedżerów, by czegoś się dowiedzieć.

Przy czym zarażone paczki są skonstruowane w taki sposób, by samo wywołanie tych narzędzi wyzwalało wirusa.

Serwis Decrypt porównał to do picia z różnych butelek przy podejrzeniu, że woda w którejś z nich jest zatruta:

Wyobraź sobie, że podejrzewasz, że ktoś zatruł butelkę wody w Twoim domu. By to sprawdzić, pijesz z każdej możliwej butelki. Mniej-więcej tak działa większość skanerów bezpieczeństwa.

Zamiast tego, Bumblebee czyta tylko etykiety na “butelkach” – czyli surowe pliki metadanych, nigdy nie uruchamiając sprawdzanego kodu.

Hakerzy coraz częściej celują w asystentów AI

Najbardziej oryginalna funkcja Bumblebee dotyczy świata sztucznej inteligencji.

Dziś coraz więcej osób korzysta z agentów AI, którzy wykonują zadania w imieniu użytkownika. Czytają jego maile, sprawdzają bazy danych czy modyfikują kod.

Narzędzia te wykorzystują tzw. pliki konfiguracyjne MCP (Model Context Protocol), pozwalające sztucznej inteligencji zyskać dostęp do zewnętrznych narrzędzi.

Jeśli haker dostanie się do tego pliku, który w uproszczeniu można porównać do “listy gości” i dopisze tam złośliwy łącznik (tzw. connector), asystent AI może nieświadomie przekazać mu poufne dane lub uruchomić niebezpieczne komendy, a użytkownik nie zauważy, że coś jest nie tak. 

Bumblebee to pierwsze narzędzie, które zwraca uwagę na plik MCP jako na miejsce, gdzie mógł ukryć się haker.

Obok tego, program sprawdza także rozszerzenia do przeglądarek internetowych czy wtyczki do edytorów kodu, na koniec przedstawiając użytkownikowi gotowy raport na temat zagrożeń.

Początkowo Perplexity stworzyło narzędzie do użytku wewnętrznego, a obecnie udostępnia je publicznie pod adresem github.com/perplexityai/bumblebee


Śledź CrypS. w Google News. Czytaj najważniejsze wiadomości bezpośrednio w Google! Obserwuj ->

Zajrzyj na nasz telegram i dołącz do Crypto. Society. Dołącz ->