Wykrycie udziału sztucznej inteligencji jest większym problemem niż zakładano | Wiadomości | CrypS.

Wykrycie udziału sztucznej inteligencji jest większym problemem niż zakładano

chatgpt-ai

OpenAI –  firma technologiczna specjalizująca się w sztucznej inteligencji, podjęła decyzję o dezaktywacji narzędzia do wykrywania treści generowanych przez AI.


Mowa o narzędziu AI Classifier. Decyzja nie budzi zadowolenia wśród użytkowników, którzy oczekiwali lepszych efektów tego rodzaju rozwiązania. 

Zrozumienie misji OpenAI

OpenAI powstało w grudniu 2015 roku. Jego pierwotnym założeniem było tworzenie i promowanie przyjaznej sztucznej inteligencji, która jest bezpieczna i korzystna dla społeczeństwa. Obecnie spółka przeprowadza zaawansowane badania w różnych dziedzinach sztucznej inteligencji i uczenia maszynowego. Dzięki temu tworzy zaawansowane modele językowe, takie jak GPT-3, a następnie 3.5 oraz wersję 4.0. Przez całą swoją działalność, OpenAI było zaangażowane w rozwiązywanie wielu wyzwań w zakresie bezpieczeństwa, sprawiając, że sztuczna inteligencja ogólnego zastosowania (AGI) jest rozwijana i wdrażana w sposób odpowiedzialny, przynosząc korzyści całemu społeczeństwu.

Dezaktywacja AI Classifier

Po sześciu miesiącach działania AI Classifier, projekt został po cichu zamknięty z powodu słabych wyników. OpenAI ujawniło, że narzędzie było wyjątkowo mało precyzyjne, a w związku z tym – jego wiarygodność zmalała niemal do zera w zakresie identyfikowania treści generowanych przez sztuczną inteligencję.  Platforma prawdopodobnie wstydzi się porażki, gdyż informację o zakończeniu programu podano po cichu w taki sposób, by jak najmniej osób się o tym dowiedziało. Wiadomość o zamknięciu AI Classifier została dodana jako aktualizacja do oryginalnego wpisu na blogu, który wprowadził narzędzie. Co więcej, link do AI Classifiera nie jest już dostępny.

Trudności z krótkimi tekstami

W swoim oświadczeniu OpenAI wykazało ograniczenia, które dotyczą działania AI Classifiera. Narzędzie miało problem z interpretacją krótkich form wypowiedzi. Co gorsza, program często wadliwie klasyfikował treści napisane przez ludzi jako generowane przez AI.

Sektor edukacji na czele zainteresowanych

Sektor edukacji szczególnie intensywnie interesował się precyzyjnym narzędziem do wykrywania AI, zwłaszcza od momentu uruchomienia ChatGPT w listopadzie 2022 roku. Nauczyciele wyrazili obawy, że studenci mogą potencjalnie korzystać z chatbota AI do tworzenia esejów i prac naukowych. OpenAI, mimo rozczarowania wynikami swojego AI Classifiera, zobowiązało się jednak do ulepszania swoich narzędzi i uwzględniania informacji zwrotnych, które pomogą wychwycić działanie sztucznej inteligencji.

Obecnie badane są skuteczniejsze techniki analizujące pochodzenia tekstu. Niemniej jednak musimy pamiętać, że tak jak sztuczna inteligencja, tak sektor, który ma ją wychwytywać, rośnie w zastraszającym tempie. Jest to zatem kwestia czasu, kiedy powstanie narzędzie, które skutecznie wskaże w jakim momencie pracy sztuczna inteligencja przejęła kontrolę nad jej wykonaniem.

Niektóre kraje już podejmują działania w zakresie zapewnienia bezpiecznego używania AI. Czy branża sztucznej inteligencji może być w jakikolwiek sposób kontrolowana? O tym dowiemy się niebawem. 

chatgpt-ai

Śledź CrypS. w Google News. Czytaj najważniejsze wiadomości bezpośrednio w Google! Obserwuj ->

Zajrzyj na nasz telegram i dołącz do Crypto. Society. Dołącz ->

reklama

Dodaj komentarz

Ostrzeżenie o ryzyku Kryptowaluty oraz produkty lewarowe to bardzo ryzykowne istrumenty finansowe, mogące spowodować szybką utratę kapitału.

Materiały opublikowane na tej stronie mają jedynie cel informacyjny i nie należy ich traktować jako porady inwestycyjnej (rekomendacji) w rozumieniu przepisów ustawy z dnia 29 lipca 2005r. o obrocie instrumentami finansowymi. Nie są również doradztwem prawnym ani finansowym. Opracowania zamieszczone w serwisie Cryps.pl stanowią wyłącznie wyraz poglądów redakcji i użytkowników serwisu i nie powinny być interpretowane w inny sposób.

Niektóre artykuły opatrzone są odnośnikami do innych stron. Służy to uzupełnieniu przedstawionych informacji.
Niektóre jednak linki mają charakter afiliacyjny: prowadzą do oficjalnych stron producentów, na których można kupić opisywany produkt. Jeśli użytkownik dokona transakcji po kliknięciu w link, nasz serwis pobiera z tego tytułu prowizję. Nie wpływa to na finalną cenę produktu, a w niektórych przypadkach ją obniża. Portal CrypS.pl nie ponosi odpowiedzialności za treści, które znajdują się na podlinkowanych stronach.