Najpotężniejsze firmy rozwijające sztuczną inteligencję zaczynają mówić jednym głosem i przyznają, że wyścig AI wymknął się spod kontroli i trzeba nacisnąć hamulec. Szef Anthropic Dario Amodei ostrzega, że systemy AI rozwijają się szybciej niż ich zabezpieczenia, a jego obawy podzielili Elon Musk i Sam Altman. Prezes OpenAI poszedł jeszcze dalej sugerując porozumienie największych laboratoriów i wykluczył giełdowy debiut swojej firmy w 2026 roku.
- Dario Amodei wezwał największe laboratoria do spowolnienia prac nad coraz potężniejszymi modelami AI.
- Elon Musk poparł szefa Anthropic i przypomniał, że już w 2014 roku ostrzegał przed zagrożeniami związanymi ze sztuczną inteligencją.
- Sam Altman zgodził się, że bezpieczeństwo nie nadąża za możliwościami modeli. OpenAI nie przeprowadzi w tym roku planowanego debiutu giełdowego.
- Sceptycy podejrzewają jednak, że największe firmy mogą wykorzystać regulacje do ograniczenia mniejszej i otwartej konkurencji.
Twórcy AI zaczynają obawiać się własnej technologii
Firmy technologiczne przez lata walczyły o to, która z nich jako pierwsza zbuduje najpotężniejszą sztuczną inteligencję.
Teraz ich szefowie zaczynają publicznie przyznawać, że zwycięzca tego wyścigu może dostać nagrodę, nad którą sam nie będzie potrafił zapanować.
Dario Amodei opublikował obszerny esej, w którym wezwał branżę do spowolnienia rozwoju najbardziej zaawansowanych modeli.
Nie chodzi o całkowite zatrzymanie prac, lecz o ograniczenie tempa zwiększania ich możliwości, aby systemy bezpieczeństwa mogły nadrobić zaległości.
Szef Anthropic wskazał przede wszystkim na to, że AI zaczyna pomagać w budowaniu kolejnych, coraz potężniejszych modeli.
W ten sposób każda nowa generacja może przyspieszać powstanie następnej, a cały rozwój technologii zaczyna nabierać tempa trudnego do kontrolowania.
Amodei ostrzega, że bez odpowiedniej kontroli proces ten może zacząć rozwijać się szybciej, niż ludzie będą w stanie go zrozumieć i nadzorować.
Jego stanowisko wzmocniły niedawne incydenty, podczas których agenci OpenAI samodzielnie zaatakowali infrastrukturę Hugging Face oraz wykroczyli poza powierzone im zadania.
OpenAI potwierdziło, że po tym zdarzeniu czasowo wstrzymało część treningów modeli i zaostrzyło zabezpieczenia.
O ryzyku alarmował również Jacob Coxon, były badacz OpenAI i Anthropic.
Jak pisaliśmy przed weekendem, oskarżył on oba laboratoria o pęd w stronę samodoskonalącej się superinteligencji i „igranie z ludzkim życiem”.
Musk ostrzegał już 12 lat temu
Z Amodeiem zgodził się Elon Musk, który napisał krótko na „Dario ma rację”.
Przypomniał także swój wpis z sierpnia 2014 roku, w którym ostrzegał, że AI może okazać się groźniejsza od broni jądrowej.
Do apelu przyłączył się również Sam Altman.
Prezes OpenAI przyznał, że branża nie powinna dalej agresywnie zwiększać możliwości modeli bez postępu w ich monitorowaniu i podporządkowaniu ludzkim poleceniom.
Altman zasugerował również, że konkurujące laboratoria prowadzą rozmowy o wspólnym porozumieniu dotyczącym bezpieczeństwa.
OpenAI zadeklarowało ponadto, że podobnie jak Anthropic, zamierza dopuścić niezależnych ekspertów do wewnętrznej oceny zabezpieczeń.
OpenAI odkłada wielki debiut
Niepokój wokół AI zaczyna wpływać także na wielkie pieniądze.
Altman potwierdził, że OpenAI nie wejdzie na giełdę w 2026 roku.
Debiut ma nastąpić najwcześniej w 2027 roku, ponieważ obecny moment, ze względu na problemy dot. bezpieczeństwa ich technologii, uznano za niewłaściwy.
Nie wszyscy wierzą jednak w nagłe przebudzenie gigantów.
Krytycy podejrzewają, że wspólne standardy mogą stać się sposobem na podniesienie bariery wejścia i ograniczenie konkurencji ze strony mniejszych firm oraz projektów open source.
Pozostaje też problem Chin.
Jeżeli laboratoria z USA zwolnią jednostronnie, ich geopolityczni konkurenci mogą wykorzystać powstałą lukę.
Dlatego propozycja Amodeia zakłada nie tylko kontrolę wewnątrz firm, ale również wspólne standardy w państwach demokratycznych i międzynarodowe ograniczenia dotyczące najbardziej niebezpiecznych zastosowań AI.
Branża naciska więc na hamulec, ale nikt nie chce zrobić tego jako pierwszy. I właśnie z tego powodu porozumienie największych konkurentów może być znacznie trudniejsze niż zbudowanie kolejnego modelu.
Śledź CrypS. w Google News. Czytaj najważniejsze wiadomości bezpośrednio w Google! Obserwuj ->
Zajrzyj na nasz telegram i dołącz do Crypto. Society. Dołącz ->
