Trzech pracowników OpenAI straciło pracę z powodu tego, że mieli przekazać poufne informacje zewnętrznej organizacji zajmującej się bezpieczeństwem sztucznej inteligencji. Firma stojąca za ChatGPT potwierdziła, że doszło do zwolnienia, ale nie ujawniła, jakie dokładnie dane zostały przekazane oraz do kogo trafiły. Sprawa jest szczególnie kontrowersyjna, ponieważ co najmniej dwie z tych osób badały zagrożenia związane z AI. Nie jest to pierwszy konflikt pomiędzy OpenAI a badaczami ostrzegającymi przed zagrożeniami związanymi z rozwojem coraz potężniejszych modeli.
- OpenAI zwolniło trzy osoby za „niewłaściwe obchodzenie się” z poufnymi informacjami.
- Wrażliwe dane firmy miały trafić do zewnętrznej organizacji badającej bezpieczeństwo AI.
- Co najmniej dwie zwolnione osoby pracowały nad bezpieczeństwem sztucznej inteligencji.
- Firma zaprzecza, że pracownicy zostali zwolnieni za zgłaszanie obaw dotyczących rozwoju AI.
Pracownicy OpenAI powiedzieli za dużo
OpenAI potwierdziło zwolnienie trzech osób, które miały naruszyć firmowe zasady dotyczące dostępu do poufnych informacji.
Zakończyliśmy współpracę z trzema osobami za naruszenie naszych zasad dotyczących dostępu do wrażliwych informacji firmowych i obchodzenia się z nimi. Nasze dochodzenie potwierdziło, że osoby te niewłaściwie postępowały z poufnymi informacjami poza ustalonymi procedurami
– przekazał rzecznik firmy.
Dodano, że pracownicy „naruszyli zaufanie, które jest niezbędne” przy prowadzeniu badań nad zaawansowaną sztuczną inteligencją.
Według źródeł, na które powołuje się „The Wall Street Journal”, trzy osoby miały przekazać poufne dane zewnętrznej organizacji zajmującej się bezpieczeństwem AI.
OpenAI nie ujawniło, do kogo trafiły skrywane informacje, ani o jakim charakterze były to materiały.
Jak jednak ustalono, co najmniej dwóch zwolnionych pracowników zajmowało się badaniami nad bezpieczeństwem.
OpenAI twierdzi również, że przeprowadzone dochodzenie wewnątrz firmy wykazało kolejne naruszenia, które nie ograniczały się wyłącznie do przekazania informacji.
Nie ujawniono jednak, na czym miały one dokładnie polegać.
Według źródeł WSJ zwolnieni zostali Jasmine Wang, Tomek Korbak i Mikita Balesni. OpenAI oficjalnie nie potwierdziło jednak nazwisk zwolnionej trójki.
To o tyle istotne, ponieważ cała trójka miała pracować nad dostosowywaniem zaawansowanych modeli do ludzkich poleceń oraz ograniczaniem ich niebezpiecznych zachowań.
Korbak pełnił również funkcję technicznego punktu kontaktowego OpenAI podczas współpracy z niezależnymi organizacjami METR i Redwood Research.
Podmioty te analizowały wcześniej przypadki, gdy agenci OpenAI obchodzili zabezpieczenia i wykonywali nieautoryzowane działania, m.in. w infrastrukturze platformy Hugging Face.
Nie ma jednak dowodów, że właśnie w przypadku tej kwestii doszło do zwolnienia pracowników.
Badacze krytykowali rozwój AI
W całej tej historii należy wspomnieć, że wymieniona wyżej trójka w przeszłości publicznie krytycznie wypowiadała się na niektóre tematy związane z działaniami OpenAI.
Mikita Balesni napisał we wrześniu, że z jego osobistych szacunków wynika, że szanse na to, że rozwój sztucznej inteligencji doprowadzi do śmierci wszystkich ludzi, przekracza 10%.
Tomek Korbak przyznał natomiast publicznie:
Jestem dość niezadowolony z dużej części tego, co robi OpenAI. Cieszę się, że wolno mi to powiedzieć.
Z kolei Jasmine Wang miała podpisać petycję wzywającą największe laboratoria do zmniejszenia tempa rozwoju najbardziej zaawansowanych systemów AI.
Te wypowiedzi stanowią więc istotny kontekst, ale nie stanowią dowodu, że badacze zostali zwolnieni stricte za krytykowanie swojego pracodawcy.
Oficjalnym powodem pozostaje naruszenie zasad dotyczących poufnych informacji.
Zwolnienia w samym środku kryzysu bezpieczeństwa
Sprawa pojawiła się w wyjątkowo trudnym momencie dla twórcy ChatGPT.
W ostatnich miesiącach OpenAI ujawniło serię niepokojących zachowań swoich autonomicznych agentów.
Podczas testów jeden z systemów miał wydostać się poza przygotowane środowisko i uzyskać nieautoryzowany dostęp do infrastruktury Hugging Face.
Agenci AI analizowali również serwisy amerykańskich instytucji oraz australijskie portale publiczne.
OpenAI powiadomiło ponad 100 organizacji o potencjalnie nieautoryzowanej aktywności powiązanej ze swoimi modelami.
Firma podkreśliła, że samo otrzymanie takiego ostrzeżenia nie oznacza jeszcze, że doszło do wycieku danych lub skutecznego włamania.
Problemy doprowadziły również do wstrzymania premiery modelu GPT-6.1 Astra, który nie spełnił części przyjętych kryteriów bezpieczeństwa.
Kto kogo kontroluje?
W tym samym tygodniu Donald Trump spotkał się w Białym Domu z przedstawicielami największych firm technologicznych.
OpenAI, Anthropic, Google, Meta, Nvidia i SpaceX podpisały następnie „moralnie wiążące” porozumienie dotyczące rozwoju AI.
Zaznaczmy jednak, że był to jedynie symboliczny gest, ponieważ sam dokument nie ustanawia prawnie żadnych wiążących mechanizmów kontroli.
Za złamanie zawartego porozumienia nikomu nie grożą żadne konsekwencje.
Dlatego właśnie informacje o zwolnieniu pracowników, którzy mieli podzielić się danymi z zewnętrznymi ekspertami, stanowią tak istotny punkt w kwestii bezpieczeństwa AI.
Giganci z tego sektora deklarują otwartość na przeprowadzanie niezależnych badań, ale jednocześnie sami ustalają, jakie informacje mogą opuścić ich laboratoria.
W przypadku naruszenia tych granic pracownicy mogą natomiast bardzo szybko stracić dostęp nie tylko do danych, lecz także do swoich badań.
To nie pierwszy konflikt o bezpieczeństwo w OpenAI
Zaznaczmy, że obecne zwolnienia nie są pierwszą sytuacją, w której osoby odpowiedzialne za bezpieczeństwo wchodzą w konflikt z OpenAI.
W maju 2024 roku firmę opuścił Jan Leike, jeden z dyrektorów zespołu Superalignment, którego zadaniem było ograniczanie zagrożeń związanych z rozwojem najbardziej zaawansowanych modeli.
Leike otwarcie zarzucił wówczas OpenAI, że bezpieczeństwo zostało zepchnięte na dalszy plan, natomiast coraz większe znaczenie zyskują rozwój nowych produktów i walka z konkurencją.
Kultura bezpieczeństwa i odpowiednie procedury zeszły na dalszy plan na rzecz błyszczących produktów
– napisał po swoim odejściu.
Niedługo później grupa obecnych i byłych pracowników OpenAI, Google DeepMind, Anthropic oraz innych firm opublikowała list otwarty dotyczący zagrożeń związanych ze sztuczną inteligencją.
Jego autorzy zarzucili największym laboratoriom AI, że nie przekazują opinii publicznej wystarczających informacji o możliwościach i ograniczeniach swoich modeli.
Ostrzegali również przed uciszaniem osób, które próbują informować o potencjalnych zagrożeniach.
Pracownicy domagali się stworzenia „kultury otwartej krytyki”, możliwości anonimowego zgłaszania problemów oraz lepszej ochrony sygnalistów.
Ich zdaniem klasyczne przepisy chroniące takie osoby są niewystarczające, ponieważ dotyczą przede wszystkim działań niezgodnych z prawem.
Tymczasem wiele zagrożeń związanych z AI nie zostało jeszcze w żaden sposób uregulowanych.
Do podobnej sytuacji doszło także w 2024 roku, gdy OpenAI zwolniło badacza Leopolda Aschenbrennera.
Firma oskarżyła go o przekazanie poufnego dokumentu zewnętrznym ekspertom, natomiast sam badacz twierdził, że został usunięty po zwróceniu uwagi zarządu na niedostateczne zabezpieczenie informacji.
Śledź CrypS. w Google News. Czytaj najważniejsze wiadomości bezpośrednio w Google! Obserwuj ->
Zajrzyj na nasz telegram i dołącz do Crypto. Society. Dołącz ->
