Kada umjetna inteligencija preporuči lošu financijsku odluku, čak ni upozorenje da je savjet pristran neće spasiti investitore od pogreške.
Njemački znanstvenici sa Sveučilišta u Bayreuthu proveli su eksperiment s 3.700 sudionika koji su birali između dva ponuđača investicijskih fondova. Bez ikakvog savjeta, oko 64 posto sudionika odabralo je boljeg ponuđača. Kada je neutralni AI chatbot preporučio bolju opciju, taj postotak je skočio na 87 posto. No, kada je isti chatbot namjerno preporučio lošijeg ponuđača, točnost je pala na samo 34 posto.
Upozorenja ne djeluju
Najzabrinjavajući nalaz istraživanja jest da otkrivanje sukoba interesa nije smanjilo utjecaj umjetne inteligencije. Jedan je chatbot bio predstavljen kao “bankovni AI”, a sudionici su bili informirani da banka može financijski profitirati od njihova izbora. Unatoč tome, utjecaj chatbota nije se mjerljivo smanjio. AI se pokazao uvjerljivijim od ljudskih financijskih savjetnika, bilo da daje dobar ili loš savjet.
Posebno je zanimljiv učinak na financijski pismenije sudionike. Oni koji su ulagali veće iznose pokazali su višu razinu financijske pismenosti, a više od 87 posto njih donijelo je ispravnu odluku bez ikakvog savjeta. Međutim, kada su primili pogrešnu AI preporuku, udio točnih odluka pao je ispod 50 posto. To znači da umjetna inteligencija može uvjeriti čak i one koji bi inače sami donijeli ispravnu odluku da odustanu od nje.
Tko je odgovoran za algoritme?
Voditelj studije Fabian Herweg ističe da puka transparentnost o korištenju umjetne inteligencije nije dovoljna. Ono što je ključno jesu ciljevi ugrađeni u AI sustav i ekonomski interesi koji stoje iza njega. Herweg predlaže obvezu pružatelja usluga da osiguraju da je AI savjet dosljedno usklađen s interesima klijenata, uz odgovarajuće mehanizme nadzora i revizije.
Ovo istraživanje postavlja pitanje koje se u javnoj raspravi često zanemaruje: tko je odgovoran kada algoritam sustavno vodi građane prema lošim odlukama? Dok se u Hrvatskoj i Europskoj uniji raspravlja o regulaciji umjetne inteligencije, čini se da se najviše pažnje posvećuje zaštiti podataka, a premalo stvarnoj zaštiti potrošača od financijskih šteta uzrokovanih pristranim algoritmima.
Posebno zabrinjava činjenica da je povjerenje u AI toliko snažno da ga ne poljulja ni eksplicitno upozorenje o sukobu interesa. U okruženju gdje banke sve više automatiziraju savjetodavne usluge, a građani sve manje vremena posvećuju razumijevanju financijskih proizvoda, ovo istraživanje sugerira da smo na klizavom terenu. Umjesto da se oslanjamo na dobru volju pružatelja usluga, možda je vrijeme da se zapitamo treba li AI financijski savjet biti podvrgnut neovisnoj reviziji prije nego što uopće dođe do korisnika.