Nate Soares w wywiadzie dla „The Times” ostrzegał przed AI. Ten były inżynier Google i Microsoft, dziś szef Machine Intelligence Research Institute (MIRI), ostrzega, że w starciu z nową technologią mamy 5 proc. szans na przetrwanie.
- Soares twierdzi, że w starciu z AI mamy tylko 5 proc. szans.
- Naukowcy analizują już wskaźnik „P(doom)”.
AI nas zniszczy?
Soares w czasie rozmowy użył metafory – dziś superinteligencja jest jak samochód pędzący w stronę przepaści, a ludzkość nie wie, gdzie w ogóle jest hamulec.
W dłuższej perspektywie możemy już mówić o zagładzie ludzkości – prawdopodobieństwo sięga 95 proc.
Dziś naukowcy analizują już „P(doom)”, wskaźnik prawdopodobieństwa katastrofy egzystencjalnej, którą spowoduje AI, gdy wymknie się spod kontroli. Uśrednione wyniki ankiet „P(doom)”, które wykonano w gronie badaczy AI, pokazują wynik „tylko” 14,4 proc.
Mediana jest na poziomie 5 proc. Oczywiście, to nie dużo, ale warto dodać, że o zdanie zapytano ekspertów. Pokazuje to skalę zagrożenia.
Dziś, gdy AI ma „twarz” ChatGPT, wydaje się to pomysłem na słaby film science fiction, ale obserwując tempo rozwoju AI, możemy założyć, że za kilka lat nowa technologia będzie czymś niezwykłym, niemal nowym gatunkiem.
Do tego naukowcy, których pytano o zdanie, zapewne mają do czynienia z bardziej zaawansowanymi tworami sztucznej inteligencji. I stąd ich obawy.
Zniszczyć, ale jak?
Tyle że jak właściwie AI miałaby nas zniszczyć? Zbuntować się, przejąć kontrolę nad maszynami, w tym robotami bojowymi, i rozpętać krwawe powstanie?
Nie, chodzi o coś innego: AI może realizować dla ludzi jakiś cel, który po prostu źle zinterpretuje. Otrzyma np. zadanie typu „zoptymalizuj produkcję energii na świecie” i uzna, że przecież najprostszym rozwiązaniem będzie… zabicie ludzkości.
Tak, wiemy od tego momentu trzy razy zastanowisz się nad promptem w ChatGPT!
Może największym zagrożeniem jest jednak nie tylko wyniszczenie ludzkości, ale przemiany społeczne i ekonomiczne.
AI zmieni rynek pracy, może sprawić, że część osób straci swoje zajęcie zarobkowe. I to wydaje się dziś najbardziej realnym zagrożeniem.
Śledź CrypS. w Google News. Czytaj najważniejsze wiadomości bezpośrednio w Google! Obserwuj ->
Zajrzyj na nasz telegram i dołącz do Crypto. Society. Dołącz ->
