Google po cichu wycofało kontrowersyjną funkcję AI

Google po cichu wycofał kontrowersyjną funkcję wyszukiwania, która serwowała użytkownikom porady medyczne od anonimowych internautów z całego świata.

• Google usunął funkcję „What People Suggest”, która agregowała amatorskie porady zdrowotne z forów internetowych i prezentowała je jako uporządkowane odpowiedzi na zapytania medyczne użytkowników.
• Firma twierdzi, że decyzja nie ma nic wspólnego z jakością usługi, ale moment jej wycofania zbiega się z falą krytyki po tym, jak dziennikarskie śledztwo wykazało, że AI Overviews Google’a serwują fałszywe informacje dot. zdrowia. 

Google wycofuje kontrowersyjną funkcję „medyczną”

Funkcja „What People Suggest” została zaprezentowana w marcu ubiegłego roku podczas wydarzenia „The Check Up” w Nowym Jorku.

Ówczesna główna lekarka Google – Karen DeSalvo – tłumaczyła jej uruchomienie chęcią ułatwienia użytkownikom dostępu do doświadczeń osób zmagających się z podobnymi schorzeniami.

Narzędzie było dostępne na urządzeniach mobilnych w Stanach Zjednoczonych i działało na zasadzie algorytmicznego porządkowania treści z forów internetowych w przystępne podsumowania tematyczne.

Porady nie przechodziły jednak żadnej weryfikacji medycznej. Same algorytmy mają też tendencję do promowania najbardziej sensacyjnych lub intuicyjnie brzmiących treści, co mogło promować wśród użytkowników nieskuteczne lub nawet szkodliwe sposoby domowego leczenia.

Teraz Google wycofał funkcję i chociaż rzecznik firmy tłumaczył decyzję „szerszym upraszczaniem strony wyników wyszukiwania”, zapewniając, że nie miała ona związku z jakością czy bezpieczeństwem „What People Suggest”, kontekst jest trudny do zignorowania.

Na początku roku śledztwo brytyjskiego the Guardian ujawniło, że podsumowania AI Overviews w wyszukiwarce Google’a karmią użytkowników wprowadzającymi w błąd informacjami medycznymi (te generowane przez AI streszczenia wyświetlane są ok. 2 miliardom osób miesięcznie). 

Sama firma na początku bagatelizowała sprawę twierdząc, że kwestionowane przez dziennik podsumowania i tak odsyłały użytkowników do wiarygodnych źródeł, zalecając konsultację z ekspertem. Kilka dni później usunęła jednak AI Overviews dla niektórych zapytań medycznych.