NJUJORK – Googleova funkcija pretraživanja AI Overviews, koja sažima odgovore pomoću vještačke inteligencije, češće citira YouTube nego bilo koju medicinsku web-stranicu pri odgovaranju na upite o zdravstvenim stanjima.
To je pokazalo njemačko istraživanje koje otvara nova pitanja o alatu koji mjesečno koristi oko dvije milijarde ljudi, piše The Guardian.
Iako je Google naveo da su njegovi AI sažeci „pouzdani“ i da se pozivaju na ugledne medicinske izvore poput američkih Centara za kontrolu i prevenciju bolesti (CDC) i klinike Mayo, studija je pokazala drugačiju sliku. Analizom više od 50.000 zdravstvenih upita prikupljenih putem Google pretraživanja iz Berlina utvrđeno je da je YouTube bio najčešće citirani izvor.
YouTube kao vodeći izvor
Istraživači iz kompanije SE Ranking, platforme za optimizaciju pretraživača, otkrili su da je YouTube činio 4,43 odsto svih citata u AI sažecima. Naveli su da se nijedna bolnička mreža, vladin zdravstveni portal, medicinsko udruženje ili akademska institucija nisu približili tom broju.
„Ovo je važno jer YouTube nije medicinski izdavač“, napisali su istraživači. „To je video-platforma opšte namjene. Svako tamo može postaviti sadržaj (na primjer doktori sa sertifikatom, bolnički kanali, ali i wellness influenseri, životni treneri i kreatori bez ikakve medicinske obuke).“
Sljedeći najcitiraniji izvor bio je NDR.de, stranica njemačke javne radiotelevizije, sa udjelom od 3,04 odsto, dok se na trećem mjestu našla medicinska referentna stranica Msdmanuals.com sa 2,08 odsto. Četvrti je bio najveći njemački zdravstveni portal za potrošače Netdoktor.de (1,61 odsto), a peti platforma za karijere ljekara Praktischarzt.de (1,53 odsto).
Strukturni rizici za javno zdravlje
Ovo istraživanje nadovezuje se na raniju istragu Guardiana koja je pokazala da su korisnici bili izloženi riziku zbog netačnih i obmanjujućih zdravstvenih informacija u odgovorima AI Overviews.
U jednom slučaju, koji su stručnjaci opisali kao „opasan“ i „alarmantan“, Google je pružio pogrešne informacije o ključnim testovima funkcije jetre, što je moglo navesti osobe sa ozbiljnim oboljenjem da pogrešno zaključe kako su zdrave. Kompanija je nakon toga uklonila AI sažetke za neka medicinska pretraživanja.
Studija SE Rankinga sprovedena je u Njemačkoj jer je njen zdravstveni sistem strogo regulisan.
„Ako se AI sistemi u takvom okruženju u velikoj mjeri oslanjaju na nemedicinske ili neautoritativne izvore, to sugeriše da se problem može proširiti i izvan bilo koje pojedinačne zemlje“, naveli su autori.
Hannah van Kolfschooten, istraživačica specijalizovana za vještačku inteligenciju i zdravlje na Univerzitetu u Bazelu, koja nije učestvovala u istraživanju, izjavila je:
„Ova studija pruža empirijske dokaze da su rizici koje AI Overviews predstavlja za zdravlje strukturni, a ne anegdotalni. Googleu postaje teško da tvrdi da su obmanjujući ili štetni zdravstveni rezultati rijetki slučajevi.“
Dodala je da se čini da su „vidljivost i popularnost, a ne medicinska pouzdanost, glavni pokretači zdravstvenog znanja“.
Googleov odgovor
Iz Googlea su za Guardian poručili da je AI Overviews osmišljen za prikazivanje visokokvalitetnog sadržaja iz uglednih izvora, bez obzira na format, te da mnogi vjerodostojni zdravstveni autoriteti i licencirani stručnjaci stvaraju sadržaj na YouTubeu. Smatraju i da se nalazi studije ne mogu generalizovati jer je sprovedena na njemačkom jeziku u Njemačkoj.
Portparol Googlea izjavio je:
„Implikacija da AI Overviews pruža nepouzdane informacije opovrgnuta je sopstvenim podacima izvještaja, koji pokazuju da su najčešće citirane domene u AI Overviews ugledne web-stranice. Prema onome što smo vidjeli u objavljenim nalazima, AI Overviews citira stručni YouTube sadržaj iz bolnica i klinika.“
Google je istakao da je studija pokazala kako je 96 odsto od 25 najcitiranijih YouTube videa bilo sa medicinskih kanala. Istraživači su, međutim, upozorili da ti video-zapisi čine manje od jedan odsto svih YouTube linkova koje AI sažeci citiraju, dodajući:
„Sa ostatkom video-zapisa situacija bi mogla biti veoma drugačija.“ SEEbiz