Jeszcze kilka miesięcy temu firmy technologiczne prześcigały się w tym, która stworzy najbardziej realistyczny generator obrazów. Dziś okazuje się, że sukces technologiczny może bardzo szybko zamienić się w problem, z którym nie radzi sobie nawet sam twórca. Google wycofało nową funkcję opartą na modelu Nano Banana zaledwie dobę po jej uruchomieniu, ponieważ użytkownicy zaczęli masowo tworzyć fałszywe obrazy katastrof, bombardowań i innych wydarzeń, które nigdy nie miały miejsca.
- Google zaledwie dzień po premierze wycofało funkcję generowania obrazów w Google Earth. Użytkownicy zaczęli tworzyć niezwykle realistyczne deepfake’i przedstawiające fikcyjne katastrofy i konflikty.
- Firma zapowiada powrót narzędzia dopiero po wprowadzeniu dodatkowych zabezpieczeń. To kolejny sygnał, że rozwój AI coraz częściej wyprzedza mechanizmy chroniące przed jej nadużyciami.
Google przestraszyło się własnej sztucznej inteligencji
Jeszcze niedawno Google prezentowało model Nano Banana jako jedno z najbardziej zaawansowanych narzędzi do generowania i edycji obrazów.
Teraz stał się on źródłem jednej z największych wpadek giganta w ostatnich miesiącach.
Nowa funkcja w Google Earth pozwalała użytkownikowi wskazać dowolne miejsce na świecie i za pomocą krótkiego polecenia tekstowego wygenerować fotorealistyczną wersję tej lokalizacji.
Oficjalnie miała pomagać architektom, urbanistom, nauczycielom czy projektantom w wizualizacji przyszłych inwestycji lub rekonstrukcji historycznych.
Internauci bardzo szybko pokazali jednak, że mają znacznie bardziej kreatywne pomysły, i zaczęli generować obrazy przedstawiające fałszywe katastrofy.
W ciągu kilku godzin media społecznościowe zalały wygenerowane przez AI obrazy przedstawiające miejsca, które wyglądały jak autentyczne zdjęcia satelitarne.
Powstały między innymi fikcyjne obozy dla uchodźców przy granicy USA z Meksykiem, nieistniejące instalacje nuklearne w Iranie, ślady bombardowań, zniszczone miasta czy sztuczne skutki powodzi.
Wszystkie wyglądały niezwykle realistycznie, ponieważ bazowały na prawdziwych zdjęciach Google Earth.
To właśnie ten element najbardziej zaniepokoił ekspertów zajmujących się analizą zdjęć satelitarnych i walką z dezinformacją.
W przeciwieństwie do klasycznych generatorów obrazów AI tutaj użytkownik nie tworzył fikcyjnego miasta czy krajobrazu, tylko modyfikował rzeczywistą lokalizację, którą miliony ludzi kojarzą z Google Earth jako wiarygodne źródło informacji.
Google próbowało bronić się argumentem, że wszystkie obrazy posiadały cyfrowy znak wodny SynthID i nigdy nie trafiały do głównej mapy Google Earth.
Problem polega na tym, że wystarczy zrobić zrzut ekranu i wrzucić go do mediów społecznościowych. Dla przeciętnego internauty taki obraz wygląda jak zwykłe zdjęcie satelitarne.
Skala krytyki okazała się na tyle duża, że Google wyłączyło nową funkcję mniej niż 24 godziny po jej uruchomieniu.
Firma zapowiedziała wycofanie narzędzia do czasu wdrożenia dodatkowych zabezpieczeń.
Cała historia pokazuje znacznie szerszy problem.
Jeszcze kilka lat temu największym wyzwaniem było stworzenie sztucznej inteligencji zdolnej generować realistyczne obrazy.
Dziś to już nie wystarcza. Coraz trudniejsze staje się zapobieganie sytuacji, w której takie materiały zostaną wykorzystane do dezinformacji, manipulacji opinią publiczną czy podważania wiarygodności prawdziwych zdjęć.
Paradoks jest więc dość ironiczny. Firmy technologiczne stworzyły tak dobre modele AI, że już same zaczynają obawiać się tego, do czego mogą zostać wykorzystane. A to może być dopiero początek problemów.
Śledź CrypS. w Google News. Czytaj najważniejsze wiadomości bezpośrednio w Google! Obserwuj ->
Zajrzyj na nasz telegram i dołącz do Crypto. Society. Dołącz ->
