50 tisuća ljudi tražilo zdravstveni savjet, Google ih slao na Youtube. Stvar je ozbiljna: samo je 1% videa je s klinika ili bolnica

Istraživanje platforme SE Ranking bacilo je ozbiljnu sumnju na pouzdanost Googleova AI alata AI Overviews, koji mjesečno koristi oko dvije milijarde ljudi. Analiza više od 50.000 zdravstvenih upita pokazala je da ovaj sustav, umjesto na službene medicinske portale ili klinike, najčešće upućuje korisnike na YouTube koji je u vlasništvu samog Googlea, prenosi Guardian.

Iako Google tvrdi da njihovi sažeci generirani umjetnom inteligencijom crpe podatke iz uglednih stručnih izvora poput klinike Mayo, podaci govore drukčije. YouTube se pojavio u čak 4,43% svih citata, ostavljajući daleko iza sebe vladine zdravstvene portale i akademske institucije. Problem leži u činjenici da je YouTube platforma opće namjene na koju sadržaj može učitati bilo tko, od licenciranih liječnika do "wellness" influencera bez ikakvog medicinskog obrazovanja.

Oštra poruka iz Vatikana: ‘ChatGPT i Gemini su iznimno učinkoviti u prikrivenom uvjeravanju i nametanju tuđih svjetonazora’

Istraživanje je provedeno u Njemačkoj, zemlji s iznimno strogim zdravstvenim regulativama, što nalaze čini još zanimljivijima. „Ako se sustavi oslanjaju na neautoritativne izvore čak i u ovako reguliranom okruženju, problem je očito strukturan, a ne slučajan“, navode istraživači. AI Overviews se pojavio u više od 82% pretraga vezanih uz zdravlje, a YouTube je bio uvjerljivo prvi na listi s više od 20.000 citata.

Google se brani tvrdnjom da njihova umjetna inteligencija selektira isključivo visokokvalitetan sadržaj s YouTubea koji kreiraju stručnjaci. Ipak, znanstvenici upozoravaju da su kanali bolnica i klinika činili manje od 1% svih citiranih videozapisa.