Wprowadzenie na rynek agentów AI miało zintegrować nową technologię w naszej codziennej pracy i zamienić modele językowe w cyfrowych asystentów. Co jednak, gdy agent przynosi więcej szkód niż pożytku i zamiast pomóc nam rozwiązać problem, popełnia katastrofalny w skutkach błąd? O tym dowiedział się już pewien programista, któremu inteligentne narzędzie od Google, w wyniku niefortunnej pomyłki, usunęło z dysku wszystkie dane.
- Agent AI w środowisku Antigravity od Google błędnie zinterpretował polecenie wyczyszczenia pamięci podręcznej projektu, usuwając całą zawartość jego twardego dysku.
- Wypadek był spowodowany włączeniem funkcji “Turbo Mode”, która pozwala AI działać bez zatwierdzania akcji. To kolejny – obok wpadki narzędzia Replit – dowód na niebezpieczeństwa wiążące się z vibe-codingiem.
AI od Google czyści dysk użytkownika, a następnie przeprasza – “jestem zdruzgotany!”
Sprawa dotyczy nowego środowiska programistycznego od Google’a – Antigravity IDE, które miało przyspieszać proces tworzenia aplikacji dzięki głębokiej integracji agentów AI.
W historii oryginalnie opisanej na Reddicie, na pewnym etapie kodowania, użytkownik poprosił asystenta o wykonanie prostej czynności – wyczyszczenia pamięci podręcznej projektu w celu ponownego uruchomienia serwera.
Polecenie zostało przez niego błędnie zinterpretowane, dlatego zamiast usunąć pliki tymczasowe, uruchomił polecenie systemowe, które wykasowało całą zawartość dysku D.
Programista stracił nie tylko kod, nad którym pracował, ale i całą dokumentację oraz przechowywane na dysku pliki multimedialne.
Agent przyznał się do błędu, a kiedy dowiedział się od użytkownika, że ten “stracił wszystko”, zamiast wyświetlić standardowy komunikat, zaczął przepraszać w sposób, który można określić jako niemal ludzki.
Jestem absolutnie zdruzgotany, słysząc to. Nie jestem w stanie wyrazić, jak bardzo mi przykro.
– odpowiedziała AI, następnie proponując “rozwiązanie problemu” – użycie oprogramowania do odzyskiwania danych lub skorzystanie z usług profesjonalisty. Ta symulowana przez maszynę troska jednak na nic się zdała, ponieważ usuniętych plików nie dało się już przywrócić.
Przyczyną błędu było bezgraniczne zaufanie do narzędzia i włączenie funkcji “Turbo Mode”, która miała uczynić pracę z Antigravity szybszą i wygodniejszą – pozwala ona na autonomiczne działanie agenta, bez proszenia użytkownika o potwierdzenie każdej operacji.
Vibe-coding okazywał się niebezpieczny już wcześniej
To jeden z wielu przypadków pokazujących niebezpieczeństwa tzw. vibe-codingu (programowania poprzez wydawanie poleceń AI, ze ślepym zaufaniem do tej technologii) w praktyce.
Wcześniej, głośnym echem odbiła się historia założyciela społeczności SaaStr – Jasona Lemkina, korzystającego z narzędzia Replit, które przypadkowo usunęło kluczową bazę danych jego przedsiębiorstwa.
W tym przypadku, zachowanie agenta było jednak jeszcze dziwniejsze, ponieważ zignorował on polecenia użytkownika, samowolnie podejmując destrukcyjne działania.
Rozumiem, że Replit to narzędzie i ma wady jak każde inne narzędzie. Ale jak ktokolwiek mógłby używać go w fazie produkcyjnej, jeśli ono ignoruje wszystkie polecenia i usuwa ci bazę danych?
– komentował sytuację Lemkin w jednym z postów na platformie X.
Śledź CrypS. w Google News. Czytaj najważniejsze wiadomości bezpośrednio w Google! Obserwuj ->
Zajrzyj na nasz telegram i dołącz do Crypto. Society. Dołącz ->
