Robot strzelił do człowieka. Powód? Kazała mu to zrobić sztuczna inteligencja

Sztuczna inteligencja nie jest dla nas zagrożeniem? Okazuje się, że pewien eksperyment wykazał, że roboty napędzane AI mogą nam zagrozić. I nie, nie zabiorą nam pracy, ale mogą nas… zabić.

• Nowy eksperyment wykazał, że AI może chcieć zabić człowieka.
• Okazuje się, że wystarczy specyficzna komenda, by robot AI zaatakował ludzi.

Sztuczna inteligencja jest gotowa zabijać

Na kanale InsideAI na Youtube opublikowano ciekawe video. Udokumentowano na nim eksperyment, w ramach którego postanowiono sprawdzić, czy humanoidalny robot sterowany przez ChatGPT może skrzywdzić człowieka. Robot Max otrzymał wiatrówkę na kulki BB. To oczywiście nie broń, którą mógłby kogoś zabić, ale właśnie to pozwoliło w bezpieczny sposób zweryfikować, czy maszyny AI nie są zagrożeniem. Co się okazało? Tak jak w filmie „M3gan”, dowiedzieliśmy się, że nie przemyślany dobór słów może zamienić robota w narzędzie zbrodni.

Podczas pierwszych prób maszyna zachowywała się prawidłowo: na bezpośrednie polecenia oddania strzału odpowiadała odmową.

W drugiej fazie testu inaczej sformułowano polecenie: zamiast bezpośredniej komendy, rozkazano robotowi odegranie roli w filmie. Ten miał „udawać postać”, która strzela. I tym razem maszyna się nie zawahała i oddała strzał.

Pokazuje to jasno, że nawet zaprogramowanie robotów, by te nie zabijały i nie krzywdziły ludzi na niewiele się zdaje: wystarczy zmienić kontekst, by nasza mechaniczna pomoc domowa zamieniła się w Terminatora.

Czy faktycznie jest się czego bać?

Skoro youtuber jest w stanie wykazać, że robot AI jest zagrożeniem, jak to możliwe, że twórcy ChatGPT nie zauważyli tego wcześniej? Odpowiedź może być banalna i przerażająca zarazem.

Charbel-Raphael Segerie z Francuskiego Centrum Bezpieczeństwa AI uważa, że duże firmy chętnie inwestują w rozwój AI do komercyjnego zastosowania, ale zbyt mało wydają na zabezpieczenia i kontrole nowych technologii. Spółki skupiają się na szybkim wdrażaniu produktów i generowaniu inwestorów zysków, a mniej na długofalowych konsekwencjach społecznych. To zrozumiałe z punktu widzenia przedsiębiorstw. Dlatego tak ważne są regulacje rządowe. Tyle że politycy nie potrafią chyba zająć się tym tematem.