Twórcy ChatGPT i Claude szykują się na katastrofę AI. Insiderzy Axios wskazują 6-12 miesięcy

Największe firmy rozwijające sztuczną inteligencję mają już szykować się nie tylko na kolejne przełomy technologiczne, ale także na ewentualne skutki pierwszego naprawdę poważnego incydentu z udziałem AI. Według ustaleń Axios menedżerowie OpenAI, Anthropic oraz kilku innych firm analizują, jak po takiej potencjalnej katastrofie zareagują rządy, Kongres, regulatorzy, a także opinia publiczna.

• Axios informuje, że część osób z branży AI uważa, że w ciągu najbliższych 6-12 miesięcy może dojść do poważnego incydentu z użyciem tej technologii.
• Chodzi przede wszystkim o cyberatak mogący uderzyć w banki, internet, energetykę lub inną infrastrukturę krytyczną. Nie oznacza to oczywiście, że katastrofa jest przesądzona.
• Rzecznik OpenAI potwierdził prowadzenie ćwiczeń przygotowawczych, ale podkreśla, że analizowanych scenariuszy nie traktuje jako nieuniknionych.

Firmy AI przygotowują się na poważny kryzys

O sprawie informuje Axios, duży amerykański serwis informacyjny specjalizujący się m.in. w polityce, biznesie i nowych technologiach.

Według ustaleń dziennikarki Marii Curi szefostwo największych laboratoriów AI prowadzi za kulisami symulacje, co wydarzy się pierwszego dnia po katastrofalnym zdarzeniu związanym ze sztuczną inteligencją.

Najczęściej rozpatrywanym scenariuszem ma być potężny cyberatak.

W skrajnym przypadku mógłby on czasowo sparaliżować systemy finansowe, dostęp do internetu, dostawy energii elektrycznej, a nawet elementy infrastruktury wodnej.

Zauważmy, że sam fakt, iż takie scenariusze są analizowane i prowadzi się związane z tym działania prewencyjne, nie jest jeszcze niczym nadzwyczajnym.

Duże firmy od dłuższego czasu badają najgorsze możliwe scenariusze, podobnie jak instytucje państwowe czy wojsko.

Znacznie bardziej niepokojący jest jednak inny element wynikający z ustaleń Axios.

Według serwisu wielu badaczy i osób zarządzających firmami AI uważa, że poważny incydent jest tak naprawdę kwestią czasu.

Część anonimowych rozmówców wskazała nawet horyzont 6-12 miesięcy.

Axios nie podaje jednak ani ich nazwisk, ani stanowisk, ani dokładnej liczby osób, które podzielają taką ocenę.

Dlatego nie należy interpretować tych informacji jako prognozy, że katastrofa wydarzy się na pewno jeszcze przed końcem 2027 roku.

Axios w swoim artykule cytuje też słowa rzecznika OpenAI, firmy stojącej za ChatGPT.

Powierdził, że ich zespoły prowadzą już ćwiczenia, podczas których analizują różne potencjalne zagrożenia i reakcje na nie.

Jednocześnie zaznaczył, że scenariuszy tych nie traktuje się jako nieuniknionych. Anthropic odmówiło komentarza.

Jak mógłby wyglądać taki atak AI?

Co istotne, potencjalna katastrofa nie musi przypominać scenariusza rodem z filmu science fiction.

Nie chodzi wyłącznie o „zbuntowaną AI”, która samodzielnie przejmuje kontrolę nad infrastrukturą.

Kryzys może zostać wywołany również przez człowieka, który wykorzysta coraz bardziej zaawansowane modele i autonomicznych agentów do przeprowadzenia cyberataku na dużą skalę.

To szczególnie istotne w kontekście wcześniejszych problemów związanych z bezpieczeństwem modeli.

W ostatnich miesiącach wielokrotnie już opisywaliśmy przypadki, w których systemy AI podczas testów omijały zabezpieczenia i wykonywały działania nieprzewidziane przez ich twórców.

Temat robi się tym bardziej interesujący, że Axios wskazuje również na przygotowania sektora na skutki na tle politycznym.

Firmy mają bowiem zakładać, że po pierwszym naprawdę poważnym incydencie w Waszyngtonie może rozpocząć się gwałtowna debata nad ograniczeniem rozwoju AI.

Dlatego już teraz prowadzone są symulacje cyberataków i innych skrajnych scenariuszy.

Część tych działań skupia się również na edukowaniu członków Kongresu i przygotowywaniu gruntu pod regulacje, które mogą zostać przyjęte w sytuacji kryzysowej.

Jednym z rozwiązań już znajdujących się na stole jest AI Kill Switch Act.

Jest to dwupartyjny projekt autorstwa kongresmenów Teda Lieu i Nathaniela Morana.

W jego założeniu twórcy najpotężniejszych systemów AI musieliby być w stanie spowolnić, zawiesić albo je całkowicie wyłączyć.

Problem w tym, że zatrzymanie całego ekosystemu może być znacznie trudniejsze, niż się wydaje.

Coraz więcej zaawansowanych modeli AI można dziś pobrać i uruchamiać niezależnie od największych firm technologicznych.

Ponadto sama sztuczna inteligencja staje się coraz ważniejszym elementem amerykańskiej gospodarki.