Dok se javna rasprava o umjetnoj inteligenciji vrti oko pitanja tko će sjediti za upravljačkom pločom, novo istraživanje američkog sveučilišta otvara neugodnije pitanje: što ako je stroj već odavno nacrtao kartu kojom se taj čovjek služi?
Lorien Jordan, docentica na College of Education Sveučilišta Južne Floride, u radu objavljenom u časopisu Qualitative Inquiry propituje sam koncept „čovjeka u petlji” — zaštitne mjere koja bi trebala jamčiti ljudsku kontrolu nad umjetnom inteligencijom. Njezina analiza polazi od spora između AI tvrtke Anthropic i američkog Ministarstva obrane oko uvjeta korištenja modela Claude, no zaključci sežu mnogo dublje od jednog ugovora.
Jordan tvrdi da se rasprava o etičnosti AI-ja svodi na biranje „bolje” ili „gore” tvrtke, dok se pritom zanemaruje čitava infrastruktura koja te tehnologije povezuje sa sveučilištima, izdavačima i istraživačima. ChatGPT i Claude ne nastaju u vakuumu — temelje se na istim graničnim jezičnim modelima, dijele istraživačke metode i tehničko naslijeđe.
„Ono što me iznenadilo i što ću nastaviti istraživati jest kako uvijek kažemo da nam treba čovjek u petlji kada koristimo AI, ali dok odluke donosimo tako brzo i masovno, što uopće znači biti odgovoran za odluke ako su informacije koje do istraživača stižu već oblikovane sustavima iza AI alata?”, upitala se Jordan.
Iluzija kontrole
Ključna zamka nije u tome hoće li čovjek potvrditi odluku, nego u tome što AI oblikuje sam okvir unutar kojeg čovjek uopće razmišlja. Ako sustav filtrira informacije, rangira opcije i predlaže rješenja prije nego što čovjek uopće vidi problem, tada je ljudska potvrda tek formalnost — potpis na dokumentu čiji je sadržaj netko drugi već sastavio.
To pitanje nadilazi akademske okvire. Umjetna inteligencija sve se više koristi kao potpora odlučivanju u zdravstvu, obrazovanju, poslovanju i nacionalnoj sigurnosti. A upravo na tim poljima pogrešna informacija ne znači samo netočan citat u radu, nego može značiti pogrešnu dijagnozu, krivu investiciju ili, u ekstremnom slučaju, vojnu odluku s tragičnim posljedicama.
Jordan stoga poziva na veću svijest o sustavima u kojima je AI istraživanje i uporaba već odavno ukorijenjena. U pripremi je i nova studija koja će analizirati izbore istraživača pri radu s AI-jem, a sudionicima će omogućiti da u stvarnom vremenu vide kako stroj tumači njihove riječi.
Pitanje koje Jordan postavlja nije samo akademsko — ono je duboko političko. Ako stroj oblikuje informacije prije nego što ih čovjek uopće vidi, tada je iluzija ljudske kontrole zapravo najveći trik industrije umjetne inteligencije. I dok se javnost bavi time koja će tvrtka pobijediti u utrci za superiorniji model, pravo pitanje ostaje zanemareno: tko je zapravo donio odluku — čovjek ili sustav koji ga je uvjerio da je odluka njegova?