Donald Trump oraz szefowie największych firm technologicznych podpisali w Białym Domu dobrowolne porozumienie dotyczące bezpieczeństwa najbardziej zaawansowanych modeli AI. Prezydent USA nazwał dokument niemal „konstytucją” i przekonuje, że jest on „moralnie wiążący”. Problem w tym, że za złamanie ustalonych zasad nie grożą żadne prawne konsekwencje.
- Porozumienie podpisały największe firmy rozwijające modele AI, w tym OpenAI, Google, Anthropic, Meta, xAI i Nvidia.
- Firmy zobowiązały się m.in. do wewnętrznych kontroli, niezależnych audytów oraz nadzoru na poziomie rad nadzorczych.
- Dokument jest całkowicie dobrowolny. Trump liczy przede wszystkim na samokontrolę branży.
Trump zebrał największe nazwiska świata AI
We wtorek 29 września Donald Trump spotkał się w Białym Domu z przedstawicielami największych firm technologicznych świata.
Przy jednym stole znaleźli się m.in. Elon Musk, Mark Zuckerberg, Jensen Huang, Sundar Pichai, Dario Amodei oraz Greg Brockman z OpenAI.
Obecni byli również Jeff Bezos, Alex Karp, Lisa Su oraz przewodniczący Izby Reprezentantów Mike Johnson.
Trump ogłosił powstanie dokumentu zatytułowanego „The White House Accord on Superintelligence: A Joint Commitment on Frontier SI Responsibilities”.
Pod porozumieniem znalazł się jego podpis oraz podpisy przedstawicieli sześciu firm: xAI/X, Meta, Nvidia, Anthropic, Google i OpenAI.
Prezydent USA określił dokument jako coś w rodzaju konstytucji dla całej branży nowych technologii.
Chwilę później dodał, że uważa go za moralnie wiążący.
Problem polega na tym, że nie jest to ani ustawa, ani rozporządzenie.
Nie przewidziano w związku z tym żadnych kar finansowych ani innych sankcji za złamanie zawartych w nim zasad.
Można więc stwierdzić, że całe to wydarzenie było swego rodzaju pokazówką, aby zakomunikować światu, że sektor Big Tech zamierza dbać o etyczny rozwój AI.
Co zawiera „konstytucja AI”?
Podpisany dokument mieści się na jednej stronie i sprowadza się do czterech podstawowych warstw kontroli.
Pierwsza zakłada wprowadzenie wewnętrznych mechanizmów monitorowania możliwości modeli zarówno podczas trenowania, jak i już po ich wypuszczeniu na rynek.
Firmy mają zwracać szczególną uwagę na cyberbezpieczeństwo, zagrożenia biologiczne i chemiczne oraz sytuacje, w których model próbuje uzyskać dostęp do systemów komputerowych w sposób, którego jego twórcy nie przewidzieli.
Zapisano w nim również, że modele nie powinny „hakować ani uzyskiwać dostępu do systemów technicznych w niezamierzony sposób”.
Drugą warstwą ma być specjalny wewnętrzny zespół, który będzie sprawdzał, czy systemy monitoringu rzeczywiście działają i czy wykryte problemy są naprawiane.
Trzeci punkt mówi o działaniach z zewnętrznymi podmiotami.
Każda firma ma współpracować z niezależnym audytorem, który oceni, czy deklarowane zabezpieczenia naprawdę funkcjonują tak, jak powinny.
Ostatnim poziomem ma być niezależny komitet rady nadzorczej, który będzie otrzymywać raporty zarówno od zespołów wewnętrznych, jak i zewnętrznych audytorów.
Firmy zobowiązały się dodatkowo do regularnych spotkań i wspólnego opracowywania standardów bezpieczeństwa.
Co ciekawe, sam dokument dopuszcza możliwość, że w przyszłości część tych zasad zostanie jednak zapisana w prawie.
Wielkie firmy AI mają pilnować… samych siebie
Wszystko to brzmi pięknie, ale nadal wygląda naprawdę sztucznie.
Weźmy pod uwagę, że Trump tak naprawdę nie chce twardych regulacji sztucznej inteligencji.
Jak twierdzi, mogłyby one spowolnić rozwój amerykańskiej AI i dać przewagę Chinom.
Zamiast tego Biały Dom stawia na samoregulację branży.
Mike Johnson określił zawarte porozumienie mianem dobrowolnego zbioru zasad i standardów, a nie prawa narzuconego przez Waszyngton.
Trump poszedł jeszcze dalej.
Zapytany przez dziennikarza, czy do ochrony społeczeństwa przed najbardziej zaawansowaną AI potrzeba czegoś więcej niż wiary w dobre intencje szefów firm technologicznych, odpowiedział przecząco.
Wskazał przy tym na swoją głowę i stwierdził, że są to „najmądrzejsi ludzie na świecie”.
Jego administracja rozważa jednak powołanie około 10-osobowego komitetu, który miałby obserwować cały sektor.
Na razie nie wiadomo, kto miałby się w nim znaleźć ani jakie realne uprawnienia posiadałby taki organ.
Zmiana nazwy AI
Podczas środowego spotkania podjęto również decyzję o wprowadzeniu pewnej zmiany.
Trump polecił administracji federalnej, aby ta od teraz używała określenia „Super Intelligence” oraz skrótu „SI” zamiast „Artificial Intelligence” i „AI”.
Jest to przede wszystkim polityczny rebranding, a nie nowa definicja technologiczna.
Tego samego dnia uruchomiono również America.gov, czyli nowy wspólny portal do korzystania z usług federalnych.
Platforma wykorzystuje rozwiązania oparte na AI i ma pozwalać Amerykanom zadawać pytania w naturalnym języku.
Zapowiedziano już, że z czasem za jej pomocą będzie można wykonywać również konkretne czynności administracyjne, m.in. odnawiać paszport czy zapisywać się do Medicare.
Kto zostanie „carem AI”?
Trump zapowiedział również, że w ciągu kilku dni wskaże osobę odpowiedzialną za koordynowanie polityki USA wobec sztucznej inteligencji.
Portal Axios wskazuje, że jednym z najpoważniejszych kandydatów jest obecny Dyrektor Wywiadu Narodowego Jay Clayton.
Trump przyznał, że Clayton byłby dobrym wyborem, ale zaznaczył, że decyzja w tej sprawie jeszcze nie zapadła.
Nowe stanowisko może mieć szczególne znaczenie, ponieważ Biały Dom coraz mocniej łączy rozwój AI z bezpieczeństwem narodowym i rywalizacją z Chinami.
Twórcy AI sami ostrzegają, że problem rośnie
Spotkanie w Białym Domu odbyło się w wyjątkowo nerwowym momencie.
Stojące za modelami ChatGPT i Claude firmy OpenAI i Anthropic w ostatnich tygodniach informowały o przypadkach, w których zaawansowani agenci obchodzili zabezpieczenia lub próbowali uzyskiwać niezamierzony dostęp do zewnętrznych systemów.
Jednocześnie część liderów branży coraz głośniej ostrzega przed konsekwencjami dalszego bezrefleksyjnego skalowania modeli.
Dario Amodei zalicza się do zwolenników znacznie większej ostrożności, podczas gdy Jensen Huang czy Mark Zuckerberg od dawna sprzeciwiają się regulacjom, które mogłyby znacząco spowolnić rozwój technologii.
Mimo tych różnic wszyscy zgodzili się na wspólny dokument. I tutaj znajduje się największy paradoks całej historii.
Firmy tworzące coraz potężniejsze systemy AI same przyznają, że potrzebne są kolejne warstwy zabezpieczeń. Biały Dom odpowiada jednak, że najlepszym strażnikiem Big Techu powinien pozostać… sam Big Tech.
Czy ogień należy zwalczać ogniem?
Śledź CrypS. w Google News. Czytaj najważniejsze wiadomości bezpośrednio w Google! Obserwuj ->
Zajrzyj na nasz telegram i dołącz do Crypto. Society. Dołącz ->
