Chińska Administracja Cyberprzestrzeni (CAC) opublikowała w sobotę projekt przepisów, który mogą wyznaczyć nowe standardy w relacjach ludzi z maszynami. Nowe prawo bierze na celownik chatboty AI symulujące zachowanie człowieka, obejmując interakcje tekstowe, wizualne i głosowe. Jeśli proponowane przepisy wejdą w życie, staną się pierwszymi tego typu regulacjami na świecie.
- Nowe prawo nakłada na dostawców AI obowiązek monitorowania stanu psychicznego użytkowników i interweniowania w przypadku wykrycia uzależnienia lub myśli samobójczych.
- Przepisy wprowadzają surowe limity dla nieletnich oraz mechanizmy cenzury treści.
Koniec wolnej amerykanki dla spółek AI w Chinach
Najbardziej rewolucyjnym aspektem projektu jest częściowe przesunięcie odpowiedzialności za zdrowie psychiczne użytkownika na dostawcę technologii.
Firmy będą miały obowiązek aktywnego monitorowania stanów emocjonalnych swoich klientów oraz poziom ich uzależnienia od wirtualnego rozmówcy.
AI nie może też stosować manipulacji emocjonalnej, przemocy werbalnej ani generować treści promujących samookaleczenie czy samobójstwo.
Z kolei w przypadkach ekstremalnych, w których użytkownik samemu poruszy tego typu kwestie, system będzie miał przekierowywać rozmowę do człowieka lub kontaktu kryzysowego.
Jednocześnie, systemy muszą zostać wyposażone w swego rodzaju „bezpieczniki”, przypominające użytkownikom o konieczności zrobienia sobie przerwy po dwóch godzinach ciągłej interakcji z botem.
Chiński regulator kontynuuje także politykę ścisłej ochrony (i kontroli) nieletnich w internecie.
Platformy otrzymają trudne zadanie identyfikowania osób poniżej 18. roku życia, które będą mogły korzystać z chatbotów służących do towarzystwa tylko za zgodą opiekuna. Dla tej grupy wiekowej zostaną wprowadzone też sztywne limity czasu użytkowania, mające zapobiec nadmiernemu przywiązaniu do “wirtualnych przyjaciół”.
Jak w przypadku większości chińskich regulacji, nie mogło zabraknąć kwestii bezpieczeństwa państwa – modele AI dostaną także zakaz generowania treści „zagrażających bezpieczeństwu narodowemu”.
Czarna lista jest jednak dłuższa i obejmuje także zakaz promowania przemocy, treści obscenicznych czy hazardu.
Skala nadzoru będzie zależeć od popularności danej usługi. Obowiązkowe oceny bezpieczeństwa będą wymagane dla chatbotów, które przekroczą próg 100 tysięcy aktywnych użytkowników miesięcznie lub zgromadzą łącznie ponad milion zarejestrowanych kont.
Śledź CrypS. w Google News. Czytaj najważniejsze wiadomości bezpośrednio w Google! Obserwuj ->
Zajrzyj na nasz telegram i dołącz do Crypto. Society. Dołącz ->
