Jacob Coxon, brytyjski badacz AI, odszedł z firmy Anthropic, która stoi za modelem Claude. Teraz ostrzega, że jego byli szefowie nieodpowiedzialnie dążą do stworzenia superinteligencji.
- Jacob Coxon odszedł z Anthropic i ostrzega przed pracami dot. superinteligencji – twierdzi, że firmy AI nie zachowują się odpowiedzialnie. Coxon uważa, że zagrożenie ze strony AI jest traktowane zbyt lekko.
- Jak twierdzi, osoby rozwijające najbardziej zaawansowane modele same wierzą, że sztuczna inteligencja może doprowadzić do upadku ludzkości jeszcze przed końcem tej dekady.
- Obawy podzielają także inni badacze. Główny badacz OpenAI Jakub Pachocki ostrzegał, że wraz ze wzrostem inteligencji modeli AI coraz trudniejsze może być zrozumienie ich procesów rozumowania.
Tworzył AI, a teraz przed nią ostrzega
Coxon przekazał we wtorek, że „zrezygnował z pracy w Anthropic”.
Ostatnie trzy lata spędziłem na badaniach przedtreningowych w OpenAI i Anthropic. Żadna z firm nie zachowuje się odpowiedzialnie. Pędzą prosto do samodoskonalącej się superinteligencji i igrają z naszym życiem
– napisał na X.
Wcześniej zmienił pracę w OpenAI, twórcy ChataGPT, na karierę w Anthropic.
Chodziło ponoć o reputację tej ostatniej firmy jako bardziej zwracającej uwagę na kwestie bezpieczeństwa i etyki. Tyle że i ona również ma pracować nad „superinteligencją”.
Ludzie tworzący sztuczną inteligencję szczerze wierzą, że może ona nas wszystkich zabić do końca dekady
– ostrzega teraz Coxon.
Jak dodał, jego niedawny jeszcze szef, Dario Amodei, miał otwarcie mówić o zagrożeniach związanych z AI.
Inni też ostrzegają
Brytyjczyk to kolejny ekspert AI, który ostrzega ludzkość przed tą technologią.
Główny badacz OpenAI, Jakub Pachocki przestrzegał np. przed coraz trudniejszym badaniem procesów „myślowych” zaawansowanych modeli.
Obawiam się, że nikt nie jest przygotowany na konsekwencje ciągłego, szybkiego wzrostu inteligencji maszyn
– napisał na swoim blogu.
Warto dodać, że wszystko ma miejsce w czasie, gdy OpenAI przekazało, że jej najbardziej zaawansowany, nieopublikowany model rozwiązał problem matematyczny, którego nie udawało się rozwikłać od stuleci.
Chodziło o równanie Naviera-Stokesa, czyli tzw. jeden z siedmiu „problemów milenijnych” Instytutu Matematycznego Claya.
Czy jednak AI faktycznie poradziło sobie samo? Pojawiają się oskarżenia o to, że sztuczna inteligencja wykorzystała wyliczenia dwójki matematyków, którzy zbliżali się do rozwiązania zagadki.
Śledź CrypS. w Google News. Czytaj najważniejsze wiadomości bezpośrednio w Google! Obserwuj ->
Zajrzyj na nasz telegram i dołącz do Crypto. Society. Dołącz ->
