ChatGPT przejdzie audyt w celu poprawy rzetelności informacji

Firma OpenAI chce udoskonalić swojego chatbota bazującego na sztucznej inteligencji. Przedsiębiorstwo dąży do tego, aby zmniejszyć ilość generowanych przez ChatGPT nieprawidłowych informacji poprzez poprawę jego umiejętności matematycznych.

---

Pod koniec maja br. firma OpenAI zgłosiła, że podejmie wysiłki na rzecz zwiększenia możliwości rozwiązywania problemów matematycznych przez swojego chatbota. Ich głównym celem będzie wpływ na to, aby ChatGPT udzielał rzetelnych informacji swoim użytkownikom. 

ChatGPT będzie udoskonalany

Najnowsza wersja chatbota opracowanego przez OpenAI wprowadzona w marcu br. pod nazwą ChatGPT-4 jeszcze bardziej zwiększyła zainteresowanie społeczności sztuczną inteligencją. Widać to m.in. po wzroście ilości wyszukiwań hasła AI w przeglądarce internetowej Google. Choć generatywne chatboty mają ogromny potencjał, nie są one pozbawione wad. 

OpenAI pracuje nad tym, aby ChatGPT dostarczał swoim użytkownikom rzetelnych informacji. Chatboty zmagają się bowiem z problemem niepodawania dokładnych faktów. Czasami dochodzi do tego, iż generują one fałszywe informacje. Najnowsze wysiłki podjęte przez przedsiębiorstwo stojące za ChatGPT mają na celu rozwiązanie tego problemu. 

Błąd, o którym mowa został określony mianem “halucynacji AI”. Sztuczna inteligencja może generować wprowadzające w błąd bądź niepoparte rzeczywistymi danymi informacje, wymyślać nieistniejące wydarzenia, bądź osoby lub też dostarczać swoim użytkownikom niewiele szczegółów na poruszony przez nich temat.

Firma OpenAI przyjrzała się skuteczności dwóch rodzajów informacji zwrotnych – pierwsza opierała się na wyniku końcowym, druga z kolei zapewniała dane wejściowe dla każdego kroku dostępnego w łańcuchu myśli. Oba modele zostały poddane ocenie za pomocą problemów matematycznych. Wygenerowały wiele rozwiązań i wybrały te najwyżej oceniane. Po przeprowadzonej analizie stwierdzono, iż skuteczność tego drugiego rodzaju informacji zwrotnych była wyższa. 

Oczywiście przedsiębiorstwo stojące za OpenAI zdaje sobie sprawę z tego, że badania powinny wykraczać poza matematykę. Dalsze testy w innych dziedzinach są zatem niezbędne, aby móc dobrze ocenić działanie chatbota. Niedawno firma ta opublikowała pełen zestaw danych, aby zachęcić innych do eksploracji. 

Problemy z rzetelnością chatbotów

Choć firma OpenAI nie wskazała na konkretne przypadki, które skłoniły ją do podjęcia badań w kierunku dostarczania przez ChatGPT dokładniejszych informacji, narzędzie to wielokrotnie mogło wprowadzić swoich użytkowników w błąd. Dla przykładu znany prawnik, Steven Schwartz przyznał, że sam polegał na chatbocie jako źródle badawczym, jednak informacje przez niego dostarczone okazały się całkowicie sfabrykowane. 

Wpadkę zaliczył niedawno również chatbot firmy Microsoft, który zbadał raporty o zarobkach kilku przedsiębiorstw, a przy tym wygenerował na ten temat nieprawidłowe dane.