Papież zaapelował o regulacje AI. Jego zdaniem algorytmy nie mogą zastępować ludzi. Przestrzegł też przed “dyktaturą technologiczną”. Ma, jak widać, podobne fobie co my - też boi się Matrixa!
Papież Franciszek chce regulacji AI
Papież 14 grudnia br. w swoim orędziu na Światowy Dzień Pokoju Kościoła Rzymskokatolickiego wszedł na temat AI.
Globalna skala sztucznej inteligencji jasno pokazuje, że oprócz odpowiedzialności suwerennych państw za wewnętrzne regulowanie jej wykorzystania, organizacje międzynarodowe mogą odegrać decydującą rolę w osiąganiu wielostronnych porozumień oraz koordynowaniu ich stosowania i egzekwowania
– przekazał papież Franciszek. To doprowadziło go do następującego apelu:
Wzywam globalną społeczność narodów do współpracy w celu przyjęcia wiążącego traktatu międzynarodowego, który regulowałby rozwój i wykorzystanie sztucznej inteligencji w jej wielu formach.
Jak na razie pewne próby regulacji trwają. Podjęła
je Unia Europejska. Pytanie, na ile będą skuteczne.
Franciszek apeluje m.in. o etyczną kontrolę “
celów i interesów właścicieli oraz deweloperów sztucznej inteligencji”. Słusznie wskazał, że zastosowania
AI “mogą stanowić ryzyko dla naszego przetrwania i zagrażać naszemu wspólnemu domowi”, odnosząc się zapewne do Ziemi.
W obsesyjnym pragnieniu kontrolowania wszystkiego, ryzykujemy utratę kontroli nad sobą; w dążeniu do absolutnej wolności, ryzykujemy wpadnięcie w spiralę technologicznej dyktatury
– ostrzegł i chyba nawiązał tym subtelnie np. do totalitarnego modelu, jaki obowiązuje w Chinach.
AI nie powinna być wykorzystywana w wojnie
Wskazał też na to, że nowa technologia nie powinna być wykorzystywana w produkcji broni.
Badania nad nowymi technologiami w dziedzinie tak zwanych śmiercionośnych autonomicznych systemów uzbrojenia, w tym uzbrojenia sztucznej inteligencji, są powodem do poważnych obaw etycznych. Autonomiczne systemy uzbrojenia nigdy nie będą moralnie odpowiedzialnymi podmiotami. Konieczne jest zapewnienie odpowiedniego, znaczącego i spójnego ludzkiego nadzoru nad systemami uzbrojenia
– stwierdził.
I rzeczywiście, nie trudno sobie wyobrazić, że za kilka lat na polu bitwy nie będą ścierać się już ludzie, ale roboty przypominające filmowego Terminatora (może nawet w wersji bez "skórki" z samym metalowym szkieletem!).
Dziś brzmi to jak scenariusz kiepskiego science fiction, ale jutro mogą być to realia konfliktów zbrojnych. Choć wizja walk robotów w miejsce ludzi nie brzmi może źle, pamiętajmy, że maszyny te mogą być też zaprogramowane do dokonywania rzezi podbitej ludności.
Trudno liczyć u nich na empatię...
Komentarze