Okazuje się, że korzystanie z AI nie jest w pełni bezpieczne. Nowe badanie przeprowadzone przez Northwestern University ujawniło zaskakującą lukę w zabezpieczeniach niestandardowych wstępnie wyszkolonych transformatorów generatywnych (GPT). Są one podatne na ataki hakerskie, które mogą pomóc wykraść poufne informacje.
AI nie jest bezpieczną technologią?
Oczywiście sztuczna inteligencja od dawna budzi obawy. Dotąd chodziło o skutki społeczne i gospodarcze jej działania. Teraz okazuje się, że zagrożenie może czaić się jeszcze w innym miejscu.
GPT to zaawansowane chatboty
AI, które mogą być tworzone i kształtowane przez użytkowników ChatGPT od firmy OpenAI. Korzystają z podstawowego modelu
GPT-4 Turbo, ale są ulepszone o dodatkowe, unikalne elementy, które wpływają na sposób interakcji z użytkownikiem. Chodzi o podpowiedzi czy unikalne zbiory danych. Mogą dzięki temu obsługiwać różne wyspecjalizowane funkcje.
Problem w tym, że - jak się okazuje -
przestępcy mogą łatwo uzyskać dostęp do danych wrażliwych, które możesz użyć do kształtowania swojego GPT.
Sprawą zajął się portal
Decrypt. Redakcji udało się uzyskać pełne i poufne dane niestandardowego, publicznie udostępnianego GPT. I to stosując podstawową technikę hakowania.
Do tego testy ponad 200 niestandardowych GPT wykazały
dużą podatność na ataki. Badacze podkreślili też podwójne ryzyko takich ataków, zagrażające integralności własności intelektualnej i prywatności użytkowników. Okazało się, że czasami to sam GPT podaje pewne wrażliwe dane.
Czasami, jak w naszym przypadku testowym, wystarczy grzecznie poprosić GPT o ujawnienie prywatnych informacji
- napisało Decrypt.
Napastnicy posiadający wystarczającą determinację i kreatywność z dużym prawdopodobieństwem znajdą i wykorzystają luki w zabezpieczeniach, co sugeruje, że obecne strategie obronne mogą być niewystarczające
– dodał
Northwestern University.
Aby rozwiązać te problemy, wymagane są dodatkowe zabezpieczenia wykraczające poza proste podpowiedzi obronne, aby zwiększyć bezpieczeństwo niestandardowych GPT przed takimi technikami wykorzystania
– podsumowano w badaniu.
Potencjał i zagrożenia płynące z GPT
Chociaż opcja dostosowywania modeli GPT do indywidualnych potrzeb niesie za sobą ogromny potencjał rynkowy, badanie, jakie opisaliśmy powyżej, pokazuje, że są z nimi związane także zagrożenia dot. bezpieczeństwa. Przed twórcami AI jeszcze wiele wyzwań, o których nie śnią dziś zapewne najlepsze nawet chatboty.
Komentarze