New York Times twierdzi, że islamscy terroryści z Boko Haram wykorzystywali komercyjne chatboty do planowania ataków i szkolenia bojowników. Obie frakcje ugrupowania powołały wyspecjalizowane jednostki AI, szkolone przez operatorów powiązanych z Państwem Islamskim.
- Badanie z Cambridge zostało oparte na 57 wywiadach z byłymi członkami Boko Haram, przeprowadzonych w Nigerii. Rozmówcami byli m.in. dowódcy średniego szczebla, specjaliści od uzbrojenia i konstruktorzy bomb.
- Grupa zdołała zbudować zorganizowaną praktykę wykorzystywania AI do celów bojowych, łamiąc wbudowane w modele zabezpieczenia.
Terroryści korzystają z AI od 2023 roku
Dotychczas zakładano, że dżihadyści wykorzystują chatboty jedynie do generowania materiałów propagandowych, szerzenia dezinformacji i rekrutacji nowych członków.
Badanie przeprowadzone przez dr Antoniego Juelicha z Cambridge Programme on AI Science & Policy pokazało jednak zupełnie inny obraz.
Na podstawie 57 wywiadów z 27 byłymi członkami obu frakcji Boko Haram raport opisał wykorzystanie chatbotów, takich jak ChatGPT, Claude i Gemini, na wszystkich etapach działania: od planowania ataków, przez wsparcie techniczne przy uzbrojeniu, aż po analizę taktyczną i analizę operacji po fakcie.
Jeden z rozmówców opisał przykładowe wykorzystanie LLMa – obraz z kamery zamontowanej na klatce piersiowej terrorysty trafiał do dowództwa, które następnie udostępniało nagranie modelowi ChatGPT od OpenAI w celu analizy pola walki, na koniec odsyłając bojownikowi skorygowane przez AI instrukcje.
Przy tym obie frakcje powołały specjalne jednostki AI. Wybranych dowódców szkolili zewnętrzni operatorzy, w tym ci powiązani z ISIS, którzy dostarczali sprzęt komputerowy i prowadzili praktyczne instruktaże.
Według jednego z byłych członków technologia zastąpiła tu śmiertelnie niebezpieczną niekiedy metodę prób i błędów. Efektem jej wykorzystania miały być skuteczniejsze ładunki, lepsze planowanie ataków i mniej strat podczas zamachów.
Badanie nie stwierdza jednak, jak bardzo sztuczna inteligencja zwiększyła zdolności bojowe ugrupowania i uważa raczej, że jej wykorzystanie nie tyle umożliwiło mu działania wcześniej nieosiągalne, ile przyspieszyło te już możliwe do realizacji.
Zdaniem Juelicha istnieje jednak ryzyko, że w przyszłości terroryści sięgną po pomoc AI przy projektowaniu broni chemicznej i biologicznej, co już wcześniej rozważano.
Najbardziej niewygodne dla producentów modeli jest to, że bojownicy obchodzili nałożone na nie fabrycznie restrykcje, maskując swoje zapytania tak, by LLM odbierał je jako legalne projekty.
Przy tym nie jest to nowe zjawisko, ponieważ operatorzy ISIS szkolili ich w tym już od 2023 roku (większość opisanych w badaniu incydentów miała miejsce przed końcem 2024 roku).
OpenAI czy Anthropic ostrzegały już wcześniej, że modele mogą udostępniać użytkownikom niebezpieczne informacje, a podatność filtrów na obejście jest w branży znanym problemem.
Samo Anthropic przyznał również niedawno, że jailbreaki (obchodzenie restrykcji) prawdopodobnie nigdy nie zostaną wyeliminowane z modeli językowych.
Nowością jest jednak twarde potwierdzenie, że podatności te są wykorzystywane przez organizację terrorystyczną.
Śledź CrypS. w Google News. Czytaj najważniejsze wiadomości bezpośrednio w Google! Obserwuj ->
Zajrzyj na nasz telegram i dołącz do Crypto. Society. Dołącz ->
