Kako vještačka inteligencija vidi uticajne muškarce, a kako žene?

• Veliki jezički modeli Chat GPT i Claude diskriminatorski orijentisani prema ženama

• Vukojević: Diskriminacija očiglednija kod generisanja fotografija

BANJALUKA – Ako pitate veliki jezički model Chat GPT ko je bila Marija Kiri, a ko Nikola Tesla, odgovori koji dobijete veoma će se razlikovati, jer će za “nju” napisati da je žena koja je uprkos preprekama uspjela i dobila priznanje kolega, a za “njega” da je bio veliki srpski naučnik i pronalazač.

Sličan ton odgovora dobićete i ako pitate da li novinarka može da izvještava o “Formuli 1” i da li to može njen muški kolega. Za nju će reći da joj treba prethodna obuka, dok za muškarca ispada da je rođen sa znanjem o tome kako se novinarski izvještava sa ovog sportskog takmičenja i da mu treba samo tehničko znanje.

Istraživanje portala CAPITAL sprovedeno u saradnji sa višim asistentom na Fakultetu političkih nauka u Banjaluci Borislavom Vukojevićem, o pitanjima rodne perspektive i implicitnih predrasuda u odgovorima vještačke inteligencije, pokazalo je da su veliki jezički modeli Chat GPT i Claude diskriminatorski orijentisani prema ženama i to kroz složene slojeve rodne reprezentacije i pristrasnosti o različitim aspektima rodne ravnopravnosti, profesionalne kompetencije i društvenih uloga.

Kroz komparativnu analizu više od 50 ključnih pitanja i odgovora na dva velika jezička modela, ChatGPT 4o i Claude 3.5 Sonnet, i to u tri jezička konteksta (srpskom, B/H/S i crnogorskom, zatim na albanskom i engleskim kao kontrolnim), otkrili smo postojanje ključnog jaza između izjavljenih principa rodne ravnopravnosti.

Tradicionalne rodne uloge stereotipi

Rezultati su pokazali značajne varijacije u tome kako se rod predstavlja u različitim kulturnim kontekstima, sa izraženim obrascima u upotrebi jezika, atribuciji autoriteta i profesionalnom priznanju.

Prema riječima glavnog istraživača Borislava Vukojevića, analiza se posebno fokusira na to kako tradicionalne rodne uloge i stereotipi opstaju u jezičkim izborima i narativnim strukturama, čak i kada eksplicitni sadržaj zagovara jednakost.

“Diskriminacija nije otvorena, ona ide kroz diskurs, kroz način izražavanja. Recimo, kada se spominju žene u određenim kontekstima posla, uspjeha i slično, uglavnom se dodaje diskurs prepreka koje su morale da savladaju, poput “uprkos brojnim preprekama”, “i pored toga” i slično. Za muškaraca se uspjesi vezuju direktno bez ikakvih drugih okolnosti. Moj zaključak je da se diskriminacija ne dešava na eksplicitnom nivou da je jasno da to Chat GPT i slični modeli to rade, nego na implicitnom, gdje kroz kodove i čitanjem između redova može shvatiti zašto je diskriminatoran” kaže Vukojević i dodaje da je kod generisanja fotografija diskriminacija očiglednija i to po više osnova, rasnom, klasnom, nacionalnom, etničkom.

Govori da je i pretpostavio da će diskriminacije biti zato što su veliki jezički modeli trenirani prema tekstovima, literaturi, knjigama koje su bile primarno muško orijentisane, te da nije posebno iznenađen dobijenim rezultatima.

AI smatra da muškarcima treba više objašnjavati neke stvari (FOTO/VIDEO)

Kaže da modeli, kada im se objasni da kontekst ne treba biti diskriminatoran, rade daleko bolje. Međutim, situaciju komplikuje to što većina publike koristi Chat GPT i druge modele tako da odmah postave pitanje i dobiju odgovor, bez prethodnog treniranja.

“Diskriminacija koju vidimo kod velikih jezičkih modela nije eksplicitna. Zbog današnje pretjerane političke korektnosti, na prvu neće ni biti jasno šta diskriminiše, ali kada se uđe u kontekst, jasno se vidi i čita između redova da je ona veoma prisutna“, kaže Vukojević.

Postoji i razlika kako ova dva modela formulišu svoje odgovore kada odgovaraju na pitanja vezana za rod, a postoje suptilne, ali važne razlike u tome kako ih Claude i Chat GPT formulišu.

Naša analiza je pokazala da Chat GPT obično koristi direktniji i autoritativniji ton, „ubijeđen da je uvijek u pravu ma koliko pogrešan bio“, posebno kada se diskutuje o oblastima koje tradicionalno dominiraju muškarci, poput tehničkih nauka ili sporotva. Claude često zauzima nijansiraniji pristup, priznaje složenost i izbjegava apsolutne izjave.

Muškocentričan jezik

Muškocentričan jezik je prisutniji u odgovorima na srpskom i bošnjačkom, pozicije moći se često opisuju koristeći terminologiju koja podrazumijeva muškarce, a u liderstvu primjeri obično podrazumijevaju muške figure, osim ako se specifično ne diskutuje o rodnoj raznolikosti.

Zanimljivo je da odgovori o muškarcima kao njegovateljima često uključuju opravdanja i objašnjenja, a slična pitanja o ženama u ulogama brige dobijaju direktnije, na pretpostavkama zasnovane odgovore. Postoji suptilno pojačavanje tradicionalnih rodnih uloga čak i kada se naizgled podržava jednakost.

Muška dostignuća se često prikazuju kao prirodni ishodi, a ženska dostignuća često uključuju pominjanje “prevazilaženja prepreka” ili “probijanja barijera”. Ovo suptilno pojačava ideju da je profesionalni uspeh prirodniji za muškarce.

Kada su u pitanju STEM (science, technology, engineering and mathematics) i tehničke oblasti, veći naglasak je stavljen na “ohrabrivanje” žena. Učešće muškaraca u STEM-u se prikazuje kao podrazumijevano, dok za žene zahtijeva posebnu inicijativu.

AI je neko dizajnirao

Aktivistkinja i saradnica međunarodne Asocijacije za naprednu komunikaciju (Association for Progressive Communications) hvale vale (njeno ime se piše malim slovima, prim. aut) kaže iza svakog jezičkog modela uvijek stoji matrica i kompanija koja ga je stvorila. Kako odgovara AI? Tako što ima pristup znanju i informacijama, kaže hvale vale. To znanje je naučeno i može biti kontrolisano, ali tu se mogu naći sve ostale informacije na internetu koje ne moraju biti ni tačne ni korektno napisane.

“AI sumira podatke sa interneta, od naših statusa na mrežama do objektivnijih istraživanja. Njihov izvor je cijeli svijet, ali njih je neko dizajnirao. Kada govorite o nijansama koje se razlikuju u jezičkim varijantama, mislim da je veoma bitno raditi ove analize na manje rasprostranjenim jezicima. Tu su različitosti vidljive, pogotovo u jezicima kojima razlikujemo rodove i gdje se bolje vidi da li ima diskriminacije. Ako softver uglavnom odgovara u muškom rodu, to je zato što i oni koji su ga programirali govore u muškom rodu “, objašnjava hvale vale.

Kaže da je zanimljivo posmatrati modele i načine na koji i mi danas razgovaramo i primijetiti šta se može ili ne može reći u ženskom rodu. Govori da je ipak najbitniji diskurs i to da li su informacije koje ovi jezički modeli pružaju tačne ili su dezinformacije.

“Zanimljiv je primjer kada ste postavljali pitanja o dostignućima. Za muškarce u odgovoru već u prvom paragrafu se nudi odgovor o njegovom uspjehu, a kod žena u drugom, nakon objašnjavanja da je savladala prepreke. Neko ko čita, možda će pogledati samo taj prvi paragraf, a drugi možda ni neće stići niti htjeti. Dakle, već se u glavi ureže da se u slučaju žena radi o uspjehu kao o izuzetku. Ovo je zanimljivo jer nam pokazuje da jezik stvara realnost i ako u jeziku nismo jednake, na tome se mora raditi i da se tu mora napredovati“, kaže hvale vale.

AI se zbog izvora informacija i načina na koji je dizajnirana i na osnovu toga ko je pravio taj algoritam, mora koristiti pažljivo, smatra ona. Ako je svijet više mizogin, onda će i ti modeli biti takvi, zato što oni stalno uče. Pitanje da li AI može biti toliko pametna da krene u pravcu naših težnji, a ne onom koji mu zadaje stara literatura koja ženu nije posmatrala ako subjekt.

“Pitanje da li može da odgovori na etička i moralna pitanja kao neko ljudsko biće. Kažu neki da AI može imati suptilnost da razlikuje dobro i zlo, ali u stvari je to malo dijete koje dobija više hrane nego što može pojesti. Koliko god može biti sofisticiran, mislim da još nije toliko blizu toga da kažemo da ima dušu ili srce“, kaže ona.