OpenAI, Anthropic i Google DeepMind boją się, że AI pomoże ludziom bez specjalistycznego wykształcenia stworzyć broń biologiczną. Firmy apelują do amerykańskiego Kongresu o ścisłą kontrolę laboratoriów sprzedających syntetyczne DNA na zamówienie.
- Ponad 50 firm – w tym Google i OpenAI – podpisało list wzywający do obowiązkowego sprawdzania zamówień na syntetyczne DNA.
- Ich zdaniem sztuczna inteligencja może drastycznie obniżyć bariery, dotychczas uniemożliwiające zdobycie broni biologicznej osobom bez specjalistycznej wiedzy.
Amerykańskie firmy obawiają się wirusów projektowanych z pomocą AI
List podpisany przez szefów ponad 50 firm – w tym tych działających w sektorach AI, biotechnologii i bezpieczeństwa narodowego – wzywa Kongres do uchwalenia prawa, które zmusiłoby firmy oferujące syntezę DNA na zamówienie do starannego sprawdzania zleceń i klientów.
Takie przedsiębiorstwa miałyby m.in. prowadzić szczegółowe rejestry, które ułatwiłyby identyfikację sprawców w przypadku wykonania niebezpiecznego zlecenia.
Autorzy listu obawiają się, że modele LLM mogą umożliwić użytkownikom bez specjalistycznego wykształcenia zebranie informacji potrzebnych do skonstruowania niebezpiecznych toksyn lub modyfikowania patogenów.
Sprzęt i techniki potrzebne do wykorzystania takiej wiedzy w praktyce stają się coraz łatwiej dostępne.
To, zdaniem autorów listu, może stwarzać zagrożenia, wśród których znajduje się m.in. globalna pandemia wywołana przez wirusa zaprojektowanego przez ludzi przy wykorzystaniu systemów AI.
Hayley Anne Severance z organizacji NTI | Bio, zajmującej się redukcją zagrożenia wywoływanego przez broń biologiczną, uważa jednak, że regulacja firm z USA niewiele da.
Jak twierdzi, aby kontrola była skuteczna, podobne, restrykcyjne zasady musiałyby przyjąć inne kraje – w tym Chiny.
W innym wypadku niebezpieczne zlecenie, które zostałoby odrzucone w Stanach, zrealizuje laboratorium działające w innym państwie.
Według Severance pracować nad bezpieczeństwem powinna także sama branża AI, m.in. upewniając się, że chatboty nie obsłużą problematycznych zapytań (co w praktyce jest jednak trudne do zrealizowania).
Śledź CrypS. w Google News. Czytaj najważniejsze wiadomości bezpośrednio w Google! Obserwuj ->
Zajrzyj na nasz telegram i dołącz do Crypto. Society. Dołącz ->
