Studija kalifornijskog Pravnog fakulteta pokazuje da veliki jezični modeli već mijenjaju pravosuđe, novinarstvo i obrazovanje — i to prije nego što je itko ozbiljno pitao tko za te posljedice odgovara.
Istraživači Centra za ljudska prava pri Pravnom fakultetu Sveučilišta u Berkeleyju proveli su dvogodišnju procjenu utjecaja velikih jezičnih modela na ljudska prava, obuhvativši 56 ispitanika iz 24 zemlje — po jednog stručnjaka i jednog praktičara u svakom od tri sektora na svakom kontinentu, uz predstavnike kompanija koje razvijaju te modele.
Zaključak je neugodan za svakoga ko je digitalizaciju javnih službi prodao kao neutralan tehnički napredak. Prekomjerno oslanjanje na modele guši kritičko mišljenje, a kulturna i ideološka homogenizacija koju donose ugrožava pravo na jednakost i nediskriminaciju. Drugim riječima, alat koji se reklamira kao univerzalan u praksi nameće jedan pogled na svijet.
Zapad se boji, Jug iskorištava
Voditeljica Centra Betsy Popken, koja potpisuje izvještaj zajedno s istraživačicama Vyomom Rahman i Camille Chabot, ističe razliku koja se u zapadnim medijima rijetko spominje: praktičari u državama globalnog Sjevera znatno su oprezniji prema tim alatima, dok su oni na globalnom Jugu pronašli primjene koje otvaraju nove mogućnosti.
Ta razlika nije slučajna. Tamo gdje postoji desetljećima izgrađen institucionalni okvir — odvjetničke komore, urednički kodeksi, akademski standardi — strah od nekontrolirane primjene je logičan. Tamo gdje tog okvira nema ili je slab, model postaje zamjena za instituciju koja nikada nije ni postojala.
U pravosuđu modeli pomažu strankama koje nemaju odvjetnika, primjerice u postupcima za male iznose. Ali u slučajevima s visokim ulogom isti ti alati daju netočne ili nedovoljno nijansirane savjete, čime se dovode u pitanje pravo na pošteno suđenje i pravo na pravni lijek. Sudac koji presudu temelji na odgovoru jezičnog modela nije modernizacija — to je abdikacija.
Novinarstvo bez novinara
U novinarstvu modeli povećavaju produktivnost i poboljšavaju radne uvjete u redakcijama s ograničenim resursima. Ista tehnologija, međutim, proizvodi halucinacije koje se šire kao dezinformacije — a čitatelj nema načina razlikovati izmišljeni citat od stvarnog.
To je isti obrazac koji smo vidjeli kod društvenih mreža: korist je privatna i trenutna, šteta je javna i odgođena. Platforme su godinama tvrdile da su samo „neutralni posrednici” dok su njihovi algoritmi oblikovali izbore i raspoloženje čitavih društava. S jezičnim modelima ponavlja se isti scenarij, samo brže.
U obrazovanju personalizirani sustavi olakšavaju rad s učenicima koji zaostaju, ali usklađenost modela s nastavnim standardima i njihova sposobnost da pomognu u pamćenju gradiva ostaju neriješeni. Učenik koji nauči vjerovati stroju prije nego što nauči provjeravati — naučio je pogrešnu lekciju.
Preporuke koje nitko neće provesti
Istraživači predlažu niz mjera: raznolikije skupove podataka koji bolje predstavljaju svjetske zajednice, mehanizme odbijanja i ton odgovora koji ovise o ozbiljnosti rizika za ljudska prava, modele prilagođene pojedinim profesijama, jasne procese za utvrđivanje odgovornosti i ispravljanje štete te regulaciju usmjerenu na konkretne visokorizične primjene — poput sudaca koji modele koriste za donošenje odluka.
Sve je to razumno i sve je to nedovoljno. Pitanje koje izvještaj ne postavlja glasi: kome se točno polaže račun kada model u Hrvatskoj pogrešno savjetuje građanina u sporu s bankom ili kada redakcija objavi izmišljeni citat? Berkeleyjeva preporuka o „jasnim procesima” ne rješava problem jurisdikcije. Model je treniran u jednoj državi, hostan u drugoj, a štetu proizvodi u trećoj — i nigdje nema institucije koja može izreći sankciju.
Za male zemlje poput naše to je ključno pitanje. Ne možemo razvijati vlastite modele, ali možemo i moramo propisati uvjete pod kojima se strani modeli smiju koristiti u javnom sektoru, sudstvu i obrazovanju. Ako to ne učinimo, o našim pravima odlučivat će algoritam čije postavke nikada nismo vidjeli i na koji nikada nismo pristali.
Izvještaj je nastao u okviru vodećeg okvira UN-a za poslovanje i ljudska prava, što znači da su i same kompanije koje razvijaju te modele priznale da obveza postoji. Ostaje vidjeti hoće li je ispuniti ili će, kao i do sada, čekati da šteta postane prevelika da bi se ignorirala.