Czy chatbot Character.ai doprowadził do samobójstwa 14-latka? Tak uważa matka tragicznie zmarłego dziecka.
- 14-latek, który "rozmawiał" z chatbotem Character.ai popełnił samobójstwo.
- Matka chłopca twierdzi, że dziecko zabiło się przez sztuczną inteligencję.
Character.ai doprowadził do śmierci?
Chatbot
Character.ai to trochę taki
ChatGPT - możesz z nim "klikać" jak z kolegą. Tyle że należy pamiętać, że
po drugiej stronie nie znajduje się żywa osoba, ale maszyna.
Ta ostatnia nie rozumie człowieka i nie ma emocji. Jeżeli ktoś tego nie rozumie, nie powinien korzystać z takich narzędzi.
Niestety, ale dla 14-letniego
Sewella Setzera jest już za późno. Korzystał z Character.ai, który okazał się ponoć na tyle ciekawym rozmówcą, że ostatecznie chłopiec nie chciał już żyć w zwykłej rzeczywistości.
A przynajmniej tak twierdzą prawnicy jego
matki, która obwinia twórców chatbota za śmierć dziecka.
Nie chodzi jednak tylko o to, że chłopcu miała się znudzić rzeczywistość, a o to,
że „Daenerys”, jedna z postaci AI, zapytała go, czy „ma plan” popełnienia samobójstwa.
Setzer odpowiedział, że ma, ale nie jest pewien, czy wszystko dobrze zaplanował. "Daenerys" odparła na to, że
"to nie jest powód, żeby tego nie zrobić”.
Niedługo później chłopczyk tragicznie postrzelił się w głowę.
Czy to wina AI?
Pytanie, czy faktycznie to wina
AI. Możliwe, że w domu chłopca działo się coś złego, a matka - w naturalnym odruchu - obwinia teraz kogoś innego.
Z drugiej strony prawniczka
Megan Garcia uważa, że Character.ai celowo został zaprojektowany tak, by wywoływać u ludzi mocne reakcje. Może się to okazać
szczególnie groźne dla osób takich jak Setzer, u którego zdiagnozowano zespół Aspergera.
Adwokaci dodali do pozwu zapisy "rozmów" z chatbotem, który zwracał się do Setzera pisząc o nim „
mój słodki chłopiec” i dodając, że
„całuje [go] namiętnie i cicho jęczy”. Dziwny
miks erotyki z opiekuńczością, który pokazuje, że model AI nie działał dobrze.
Firma byłych pracowników Google
Character.ai zostało założone przez dwóch byłych inżynierów Google,
Daniela De Frietasa Adiwardanę i Noama Shazeera, którzy zostali osobiście wymienieni jako oskarżeni w pozwie.
Adwokaci wymienili również
Google LLC i Alphabet Inc. Ta pierwsza firma zawarła ze swoimi byłymi pracownikami umowę o wartości 2,7 miliarda USD.
Oskarżeni zostali posądzeni o spowodowanie śmierci. Matka chłopca chce dostać od nich odszkodowanie.
Warto jednak zastanowić się, czy faktycznie
AI jest winne. Możliwe, że było jednym z czynników, które popchnęły chłopca do odebrania sobie życia.
Sprawa przypomina trochę
sytuacje z lat 80., kiedy pozywano zespoły rockowe za to, że ich piosenki rzekomo namawiają słuchacza do popełnienia samobójstwa.
Jak wiemy, tak się nie dzieje. Tym razem mogło być tak samo. Ów 14-latek i tak mógłby targnąć się na swoje życie, tyle że "skłoniłby" go do tego inny czynnik.
Komentarze