Chatbotovi brišu osobni pečat autora

Analiza više od 880 tisuća tekstova pokazala je da korištenje chatbotova za pisanje smanjuje stilsku raznolikost i zamagljuje osobne tragove koji otkrivaju identitet, osobnost, pa čak i mentalno zdravlje autora.

Istraživači su usporedili izvorne ljudske tekstove s onima koje su prepisali veliki jezični modeli poput GPT-3.5, Llame 3 70B i Gemini Pro. Rezultati, objavljeni u časopisu Nature Human Behaviour, pokazuju da prepisivanje smanjuje varijacije u složenosti pisanja za 21 do 50 posto. U 87 posto slučajeva izvorni i prepisani tekstovi imali su sličnost značenja iznad 0,95, što znači da su chatbotovi uglavnom sačuvali smisao, ali su pritom izbrisali osobni pečat autora.

To je posebno zabrinjavajuće za područja poput psihologije, mentalnog zdravlja i zapošljavanja, gdje se analiza jezika koristi za procjenu osobina ličnosti ili čak rizika od depresije. Ako chatbotovi „izglačaju” tekst prema uobičajenim obrascima, ti dijagnostički alati postaju manje pouzdani. Računalni modeli koji analiziraju tekst bili su u prosjeku šest postotnih bodova manje točni u prepoznavanju autorovih karakteristika kada su analizirali prepisane tekstove.

Osobni otisci koji nestaju

Znanstvenici su primijetili da chatbotovi slabe veze između jezika i osobina poput ekstraverzije, odanosti ili dobi. Primjerice, korištenje zamjenica povezano s ekstraverzijom, riječi vezane uz prijateljstvo s odanošću te riječi usmjerene na budućnost s dobi — sve je to postalo teže prepoznatljivo.

No neke su poveznice ipak ostale. Negativne emocije i neuroticizam, riječi vezane uz religiju i moralnu čistoću te društvene riječi i spol i dalje su se mogli prepoznati. To otvara pitanje koje istraživači tek trebaju odgovoriti: zašto chatbotovi čuvaju neke jezične tragove, a druge brišu?

Ovdje se nameće i šire pitanje koje izvor ne postavlja: što se događa s našom autentičnošću kada sve više komunikacije prepuštamo algoritmima? Ako svatko piše „savršeno” prema obrascima koje su naučili chatbotovi, gubimo upravo ono što nas čini ljudima — osobnu perspektivu, specifičan rječnik, čudne metafore i prepoznatljiv glas.

Tehnologija koja nas čini istima

Ovo nije prvi put da tehnologija mijenja način na koji komuniciramo, ali jest prvi put da strojevi aktivno oblikuju naš jezik prema vlastitim mjerilima „dobrog” pisanja. Dok su se ranije alati poput provjere pravopisa ili gramatike samo ispravljali, današnji chatbotovi prepisuju cijele rečenice, pa čak i tonove, prema onome što smatraju „normalnim”.

Problem je u tome što „normalno” znači prosječno, a prosječno znači bezlično. U svijetu u kojem se sve više oslanjamo na umjetnu inteligenciju za pisanje e-pošte, izvješća, pa čak i znanstvenih radova, riskiramo stvaranje generacije tekstova koji su međusobno gotovo nerazlikovni. To nije samo estetski problem — to je problem za demokraciju, jer se raznolikost mišljenja i perspektiva često prepoznaje upravo kroz jezične razlike.

Istraživači pozivaju na daljnje proučavanje učinaka chatbotova na jezik, no jedno je već jasno: tehnologija koja bi trebala pomoći u pisanju zapravo nam oduzima glas. Pitanje nije samo što chatbotovi rade našim tekstovima, nego što njihova sve veća upotreba radi našem identitetu.