Narzędzie Prime Voice AI firmy ElevenLabs zostało niebezpiecznie nadużyte do generowania głosów celebrytów, w tym Emmy Watson, Jamesa Camerona i Joe Bidena. W oprogramowaniu wygłaszają obelgi i skandaliczne komentarze.
ElevenLabs to startup, który ma na celu stworzenie najbardziej realistycznego i wszechstronnego oprogramowania do mowy sztucznej inteligencji (AI), teraz znalazł się w centrum uwagi z powodu najnowszego nadużycia technologii AI. Narzędzie Prime Voice AI pozwala każdemu na wgrywanie nagrań i generowanie na ich podstawie sztucznego głosu.
Użytkownicy 4chan (anonimowej tablicy ogłoszeń) rzucili się do wypróbowania oprogramowania, wykorzystując głosy celebrytów do odczytywania różnych wypowiedzi. Pojawiła się nie tylko mowa nienawiści, lecz także propaganda i dezinformacja. Emma Watson była słyszana w deepfake czytająca fragment Mein Kampf Hitlera. W osobnym audio sklonowano głos prezydenta Joe Bidena, by ogłosić inwazję na Rosję.
//twitter.com/elevenlabsio/status/1620032627075063811?s=20&t=Y2ggmdk7a-3MpV4XUBMZkgOprogramowanie jest nadal dostępne bez żadnych ograniczeń. ElevenLabs z siedzibą w Wielkiej Brytanii pierwszy raz zareklamowało swoją sztuczną inteligencję Prime Voice na początku stycznia. Zaledwie kilka tygodni później stało się konieczne ponowne przemyślenie całego modelu po tym, jak użytkownicy zgłosili wiele przypadków tworzenia nienawistnych wiadomości "za pomocą głosów z prawdziwego świata".
Co to jest deepfake?
„Deepfake” to połączenie dwóch słów: „deep” i „fake”. Deep odnosi się do technologii sztucznej inteligencji, która jest znana jako deep learning. Technologia deepfake wykorzystywana jest w syntetycznych mediach do tworzenia fałszywych treści, a także zastępowania lub syntetyzowania twarzy, mowy i manipulowania emocjami. Służy do cyfrowego imitowania działań danej osoby, których nie wykonała. Pierwsze kroki w kierunku tej technologii zostały podjęte w latach 90. przez instytucje akademickie. Następnie zostały one zaadaptowane przez szerszą publiczność. Koncepcja ta zdążyła już narobić sporo szumu w przestrzeni medialnej.
Komentarze