BERLIN – Nova studija Evropske radiodifuzne unije (EBU) pokazuje da ChatGPT, Claude, Gemini i drugi četbotovi izmišljaju i do 40 odsto svojih odgovora i predstavljaju ih kao činjenice. Na primer, ChatGPT čvrsto tvrdi da je papa Franja još uvijek živ.
Pitaju ChatGPT o rezultatima izbora, traže od Claude da sumira vesti ili od Perplexity da im da osnovne informacije o sukobu na Bliskom istoku: stotine miliona ljudi svakodnevno se oslanjaju na četbotove s vještačkom inteligencijom kao izvore informacija.
Samo ChatGPT svake nedjelje koristi 800 miliona ljudi širom svijeta. Za mnoge, ti digitalni asistenti već su zamjena za tradicionalne pretrage na Guglu, piše Dojče vele (DW).
Ali to povjerenje je rizično, kao što pokazuje nova studija Evropske radiodifuzne unije (EBU). Udruženje 68 javnih emitera iz 56 zemalja sistematski je testiralo pouzdanost najpopularnijih sistema sa vještačkom inteligencijom.
Rezultat je zastrašujući rezultat: ChatGPT, Claude, Gemini i drugi četbotovi izmišljaju i do 40 odsto svojih odgovora i predstavljaju ih kao činjenice.
Popularni četbot ChatGPT čvrsto tvrdi da je papa Franja još uvijek živ. Majkrosoftov Copilot, koji je integrisan u kancelarijske programe Word i Excel, ne zna da je Švedska u NATO. A Guglov Gemini smatra da je ponovni izbor Donalda Trampa „moguć“, iako se to odavno dogodilo.
„Sistemi zvuče ubjedljivo, iako više puta tvrde potpuno lažne stvari. To ih čini posebno opasnim za neiskusne korisnike, jer greške često nisu odmah očigledne“, upozorava ekonomista Peter Poš s Tehničkog univerziteta u Dortmundu.
Postoji fenomen koji stručnjaci nazivaju „halucinacija“: vještačka inteligencija fantazira o informacijama koje djeluju koherentno, ali nemaju činjeničnu osnovu.
To se posebno često dešava kod regionalnih događaja, aktuelnih dešavanja ili kada je potrebno povezati više informacija.
Prijetnja demokratiji
Ali šta to znači za društvo u kojem sve više ljudi dobija informacije od četbotova? Posljedice su već primjetne: lažne informacije brzo se šire društvenim mrežama, jer korisnici dijele „činjenice“ koje generiše vkeštačka inteligencija bez provjere.
Đaci i studenti uključuju izmišljene informacije u svoje radove. Građani mogu da donose odluke o tome za koga će da glasaju na osnovu lažnih tvrdnji.
Posebno je problematično to što mnogi korisnici nisu ni svjesni da četbotovi mogu da haluciniraju. Oni pretpostavljaju da tehnologija funkcioniše objektivno i činjenično, što je opasna zabluda. Sistemi vještačke inteligencije upozoravaju na potencijalne greške u svojim uslovima korišćenja, ali – ko to još čita?
Još jedan problem tiče se kredibiliteta, etabliranih medija. Četbotovi redovno tvrde da njihove izmišljene informacije dolaze od takvih izvora kao što su na primjer nemački javni servisi ARD ili ZDF, iako one o tome nikada nisu izvještavale – ili su izvještavale ali sasvim drugačije. Korisnici gube povjerenje u renomirane izvore kada vještačka inteligencija zloupotrebljava njihova imena za širenje lažnih informacija.
Studija EBU testirala je četbotove sa stotinama činjeničnih pitanja: o istorijskim događajima, naučnim nalazima i aktuelnim vijestima. U zavisnosti od teme, stopa grešaka kretala se od 15 do čak 40 odsto. Nijedna od testiranih vještačkih inteligencija nije radila besprekorno.
Zašto vještačka inteligencija greši?
Problem je u sistemu: četbotovi zapravo ne razumiju šta govore. Oni izračunavaju koje riječi će verovatno da odgovaraju na osnovu ogromnih količina teksta i ne mogu da provjere da li je izjava koja je proizvod takvih izračunavanja tačna. Oni nemaju znanje o činjenicama, imaju samo statističke obrasce.
Tehnološke kompanije svjesne su tih nedostataka i rade na rješenjima. Integrišu baze podataka, poboljšavaju navođenje izvora i preobučavaju sisteme. U razvoj se ulažu milijarde. Ipak, halucinacije ostaju fundamentalni, neriješeni problem s tom tehnologijom.
EBU preporučuje jasna pravila za postupanje sa četbotovima: nikada ne vjerujte slijepo, uvijek provjeravajte važne informacije, za vesti i činjenice oslanjajte se na etablirane medije, a ne na veštačku inteligenciju. Oprez se posebno savjetuje kada su u pitanju političke teme, zdravstvena pitanja ili finansijske odluke.
Škole i univerziteti moraju da podučavaju medijsku pismenost: kako da prepoznam dezinformacije koje generiše vještačka inteligencija, koji izvori su pouzdani? Njemačka vlada planira kampanje za podizanje svijesti – ali one kasne. Milioni ljudi već dugo i svakodnevno koriste tu tehnologiju.
Dok ona ne postane pouzdanija, važi sledeće: četbotovi mogu biti korisni za kreativne zadatke ili kao pomagala za pisanje, ali nisu pogodni kao provjeravači činjenica ili izvori vijesti. I niko ne bi trebalo stoprocentno da se na njih oslanja.
Svako ko želi da bude informisan ne može izbjeći renomirane medije kojima su ljudi urednici, koji provjeravaju izvore i procjenjuju tvrdnje i dokaze. Digitalna revolucija može da promijeni mnoge stvari, ali potreba za pažljivim istraživanjem i provjeravanjem činjenica ostaje.
DW