Bill Gates ostro skrytykował podejście Donalda Trumpa do bezpieczeństwa sztucznej inteligencji. Współzałożyciel Microsoftu ostrzegł, że AI jest wystarczająco potężna, aby napędzić wydarzenia prowadzące nawet do miliarda ofiar. Prezydent USA odpowiada, że nowe regulacje osłabiłyby Amerykę w wyścigu z Chinami.
- Gates domaga się obowiązkowego monitorowania laboratoriów AI i uważa, że samoregulacja branży nie wystarczy.
- Trump nazywa ostrzeżenia dotyczące AI „mistyfikacją” i stawia na utrzymanie przewagi nad Chinami.
- We wtorek prezydent USA ma spotkać się z szefami największych laboratoriów AI.
Bill Gates odpowiada Trumpowi
Bill Gates przedstawił wyjątkowo ponurą wizję tego, jak mogą wyglądać konsekwencje braku kontroli nad rozwojem sztucznej inteligencji.
Współzałożyciel Microsoftu w wywiadzie dla Kristen Welker stwierdził, że AI jest już wystarczająco potężna, aby pomóc napędzić wydarzenia prowadzące nawet do miliarda zgonów.
Nie chodzi jednak o bunt robotów rodem z science fiction, które samodzielnie zdecydują o unicestwieniu ludzkości.
Zdaniem miliardera największym zagrożeniem jest wykorzystanie zaawansowanych modeli przez ludzi o złych intencjach.
AI jest bowiem w stanie ułatwiać przeprowadzanie cyberataków, tworzenie broni biologicznej oraz zakłócanie działania banków, sieci energetycznych i innej infrastruktury krytycznej.
Nigdy wcześniej nie istniała broń tak potężna jak połączenie ludzi o złych zamiarach z najnowszymi narzędziami AI
– ostrzegł Gates.
Jak podkreślił, nie jest za całkowitym wstrzymaniem rozwoju technologii, ale domaga się, aby laboratoria zostały objęte obowiązkowym monitoringiem, przechowywały logi dotyczące działania modeli i podlegały przepisom uchwalonym przez polityków.
Według niego samoregulacja branży nie wystarczy, podobnie jak zwykły „wyłącznik awaryjny”.
Ostrzega również, że międzynarodowe porozumienie dotyczące AI może okazać się trudniejsze do osiągnięcia niż traktaty nuklearne z okresu zimnej wojny.
„To nie jest żadna mistyfikacja”
Słowa Gatesa są odpowiedzią na stanowisko prezentowane przez Donalda Trumpa.
Prezydent USA określał obawy związane z przejęciem kontroli przez AI mianem mistyfikacji. Porównywał je do ostrzeżeń dotyczących zmian klimatycznych i oskarżeń o rosyjską ingerencję w amerykańską politykę.
Gates zdecydowanie odrzucił jego narrację.
Trump przekonuje, że jedynym zabezpieczeniem, którego naprawdę potrzebuje AI, jest „silny i inteligentny prezydent”.
Obawia się, że nowe przepisy spowolnią rozwój amerykańskich modeli i pozwolą Chinom odrobić straty.
Według niego Stany Zjednoczone wyprzedzają obecnie Pekin o mniej więcej półtora roku i nie powinno się dobrowolnie rezygnować z tej przewagi.
Gates uważa natomiast, że obowiązkowy monitoring nie musi zahamować postępu. Nie zgadza się także z argumentem, że Chiny nigdy nie zaakceptują podobnych zabezpieczeń.
Jego zdaniem Pekin również ma interes w ograniczeniu ryzyka cyberataków, bioterroryzmu i niekontrolowanego działania autonomicznych systemów.
Trump spotkał się z szefem Anthropic
W niedzielę wieczorem Donald Trump przyjął na prywatnej kolacji w Białym Domu Daria Amodeiego, prezesa Anthropic. Było to ich pierwsze indywidualne spotkanie.
Zaznaczmy, że Amodei nie uczestniczył wcześniej w kolacji państwowej z prezydentem Chin Xi Jinpingiem.
Trump zaprosił go osobno, pomimo wcześniejszych publicznych ataków na przedsiębiorcę.
Przypomnijmy, że relacje administracji Trumpa z firmą Anthropic pozostają wyjątkowo napięte.
Firma odmówiła zgody na wykorzystywanie Claude do masowej inwigilacji oraz w pełni autonomicznej broni. Pentagon uznał następnie Anthropic za zagrożenie dla łańcucha dostaw.
Natomiast 25 września sąd apelacyjny w Waszyngtonie podtrzymał stosunkiem głosów 2:1 ograniczenia dotyczące korzystania z usług firmy przez Departament Obrony.
Giganci AI chcą zwolnić, Trump naciska na tempo
Wszystko dzieje się w czasie, gdy giganci z sektora AI coraz głośniej wzywają do wyhamowania w kwestii rozwoju najnowszych modeli.
Chodzi bowiem o narastające obawy dotyczące bezpieczeństwa.
Amodei w dniu 12 września opublikował esej zatytułowany „We Must Pace the Frontier”, w którym wezwał do ograniczenia tempa prac nad tą technologią.
Kierunek ten poparli również Sam Altman i Elon Musk.
W ostatnich tygodniach laboratoria ujawniły niepokojące zachowania autonomicznych agentów, w tym próby obchodzenia zabezpieczeń stron rządowych.
Natomiast we wtorek 29 września Trump i przewodniczący Izby Reprezentantów Mike Johnson mają spotkać się z większą grupą prezesów najważniejszych firm zajmujących się AI.
To właśnie wtedy może się okazać, czy Waszyngton zacznie poważnie rozważać obowiązkowe zabezpieczenia, czy nadal będzie traktował je przede wszystkim jako przeszkodę w wyścigu z Pekinem.
Śledź CrypS. w Google News. Czytaj najważniejsze wiadomości bezpośrednio w Google! Obserwuj ->
Zajrzyj na nasz telegram i dołącz do Crypto. Society. Dołącz ->
