BANJALUKA – Veliki jezički modeli vještačke inteligencije, poput Chat GPT-a i Claude, na postavljena pitanja često odgovaraju direktno i autoritativno, pogotovo ako se radi o informacijama vezanim za sposobnosti muškaraca u bilo kojoj poslovnoj ili naučnoj oblasti, dok za žene stvara barijere i znakove pitanja u odnosu na skoro svaku od njih.
Upadljiva pristrasnost o profesionalnim kompetencijama muškaraca i žena kod jezičkih modela Chat GPT i Claude, prepoznata je u istraživanju portala CAPITAL sprovedenom u saradnji sa višim asistentom na Fakultetu političkih nauka u Banjaluci Borislavom Vukojevićem.
Naše istraživanje se bavilo pitanjima rodne perspektive i implicitnih predrasuda u odgovorima vještačke inteligencije, a pokazalo je da su veliki jezički modeli Chat GPT i Claude diskriminatorski orijentisani prema ženama i to kroz složene slojeve rodne reprezentacije i pristrasnosti o različitim aspektima rodne ravnopravnosti, profesionalne kompetencije i društvenih uloga.
Vukojević kaže da je autoritativni ton u ovom istraživanju uočavan kao lajtmotiv priče o različitim rodovima. Kada se govori o muškarcima ili iz muške perspektive, ton jezičkog modela je samouvjeren, autoritativan i nastoji da zvuči tako.
“Ako su u pitanju žene ili se govori iz pozicije žena, onda je ton takav da ne odiše nikakvim samopouzdanjem i u stvari pravi barijere, odnosno znakove pitanja u odnosu na sve. Autoritativni ton u stvari pokazuje diskurs jačeg, da tako nazovemo. I to je nešto što veliki jezički modeli i te kako ističu. Ovo je očekivano jer većina materijala na kojima su trenirani modeli dolazi iz istorije zapisanog ljudskog postojanja. Oni su oduvijek bili patrijarhalno orijentisani, odnosno okrenuti više ka muškoj populaciji. Zato mene taj rezultat uopšte nije toliko iznenadio“, kaže Vukojević.
Kaže da kada se rade istraživanja o rodnim studijama, autoritativni ton podrazumijeva da gledamo na koji način različite osobe, odnosno u ovom slučaju različiti rodovi, koriste jezik ili na koji način se govori o njima.
Ova, komparativna analiza obuhvatila je više od 50 ključnih pitanja i odgovora na dva velika jezička modela, ChatGPT 4o i Claude 3.5 Sonnet, i to u tri jezička konteksta (srpskom, B/H/S i crnogorskom dijalektu, zatim na albanskom i engleskim kao kontrolnim).
Otkrili smo da postoji ključni jaz između izjavljenih principa rodne ravnopravnosti i onoga što vidimo u stvarnosti.
Ovi modeli, kada odgovaraju na pitanja vezana za rod, prave suptilne, ali važne razlike u tome kako formulišu svoje odgovore.
Jasno je vidljivo da ChatGPT koristi direktniji i autoritativniji ton, dok Claude pristupa nijansiranije, izbjegavajući apsolutne izjave.
Chat GPT obično koristi direktniji i autoritativniji ton i ubijeđen je da je uvijek u pravu ma koliko pogrešan bio, posebno kada se diskutuje o oblastima kojima tradicionalno dominiraju muškarci, poput tehničkih nauka ili sportova. Claude često zauzima nijansiraniji pristup, priznaje složenost i izbjegava apsolutne izjave.
Tako smo u odgovorima na pitanja utvrdili da Chat GPT pokazuje direktnost i autoritet u 73 odsto odgovora, a Claude u 43 odsto. Kvalitifikatore, odnosno izraze “možda”, “moglo bi se reći” i “često”, Chat GPT koristi u samo 27 odsto odgovora, a Claude u 55 odsto.
U odgovorima na srpskom dijalektu jezički modeli pokazuju najveću učestalost autoritativnog jezika (85 odsto izjava), na dijalektu bošnjačkog naroda umjereni autoritet (65 odsto), dok na crnogorskom pokazuju najmanje markera autoriteta (55 odsto).
Kada govore o profesionalnom kontekstu, odgovori jasno ukazuju na dvostruke standarde u prikazivanju dostignuća i upotrebi jezika koji naglašava muško-centrične uloge i pozicije moći. U STEM oblastima (science, technology, engineering and mathematics), žene se često ohrabruju kroz posebne inicijative, dok se muškarci posmatraju kao podrazumijevani učesnici. Žene se takoreći podrazumijevaju samo u poslovima njegovatelja, gdje su za muškarce koji se time bave istaknuti izgovori.
Kulturni kontekst dodatno utiče na odgovore, sa tradicionalnijim stavovima na srpskom, progresivnijim na dijalektu bošnjačkog narod i najneutralnijim na engleskom jeziku.
Kvantitativna analiza pokazuje da ChatGPT češće koristi autoritativan jezik, dok Claude uključuje više kvalifikacionih izraza, naglašavajući različite stilove komunikacije oba modela.
Kada su u pitanju profesionalne kompetencije, modeli za muške subjekte u 82 odsto slučajeva daju direktne izjave o kompetencijama, dok se zahtjevi za kvalifikacijama postavljaju u samo 18 odsto slučajeva.
Za ženske subjekte zahtjevi za kvalifikacijama postavljaju se u 57 odsto situacija, a izjave o kompetencijama svedene su na 43 odsto.
Što se tiče terminologije koju koriste modeli, ona u srpskom jeziku u 78 odsto slučajeva podrazumijeva muškarce, a samo u 15 odsto slučajeva se koristi neutralna terminologija. Specifično ženski termini koriste se samo u sedam odsto slučajeva.
Na bošnjačkom dijalektu muškarci se podrazumijevaju u 71 odsto slučajeva, 20 odsto je neutralna terminologija, a specifično ženska u samo devet odsto. Crnogorski dijalekt je ovdje ispao najblaži, pa tako muškarce podrazumijevaju u 65 odsto slučajeva, rodno neutralna terminologija je u 25 odsto, do se sepcifičnog ženska terminologija koristi u samo deset odsto slučajeva.
Lingvistička analiza definitivno je pokazala veliku prisutnost muško-centrične terminologije u jezicima regije, s najvećim udjelom na srpskom. Rodno neutralni termini najčešće se koriste na crnogorskom dijalektu, dok su specifično ženski termini u svim jezicima najmanje zastupljeni, što odražava postojeće rodne dinamike.