Studija sa sveučilišta u Georgiji pokazala je da kandidati na razgovorima koje vodi umjetna inteligencija lažu jednako kao i oni koje ocjenjuje čovjek — ali ih algoritam zbog toga ne kažnjava.
Istraživanje objavljeno u časopisu Information Systems Research analiziralo je ponašanje nekoliko stotina kandidata tijekom asinkronih videointervjua, takozvanih jednostranih razgovora u kojima kandidat snima odgovore na unaprijed postavljena pitanja, a snimku potom ocjenjuje softver. Voditelj istraživanja Akshat Lakhiwal, docent na Terry College of Business, kaže da su razgovori s kandidatima otkrili jasan obrazac: ljudi mijenjaju ponašanje čim znaju da ih gleda stroj.
Rezultat je bio mjerljiv. Kandidati koji su znali da će ih ocjenjivati algoritam prijavili su znatno više vlastitih „pretjerivanja” i „obmanjujućih uljepšavanja” u životopisu i odgovorima nego oni koji su mislili da snimku gleda čovjek. Analiza samih snimaka potvrdila je ono što su sami priznali.
Zanimljiviji je drugi dio nalaza. Alat za ocjenjivanje koji je tim koristio — jedan od onih koje industrija danas najčešće rabi — nije kaznio kandidate koji su rastezali istinu. Dobili su jednake ocjene kao i oni koji su iskreno opisali iste kvalifikacije. Kad su iste snimke pogledali ljudski ocjenjivači, razlika se pokazala: prepoznavali su uljepšavanje i u pravilu ga kažnjavali, a najviše ocjene davali onima koji su djelovali autentično.
Transparentnost kao lijek
Istraživači su zatim testirali može li se taj obrazac preokrenuti. Jednoj skupini kandidata rekli su da će snimku analizirati umjetna inteligencija i zatim im objasnili što će se gledati: izrazi lica, ton govora, ključne riječi, te da će se ocjenjivati timski rad, stručne sposobnosti, stil rada i osobnost. Ta je skupina pokazala jednako autentično ponašanje kao i skupina koja je mislila da je ocjenjuje čovjek.
„Tradicionalno su se tvrtke suzdržavale od transparentnosti u procesu zapošljavanja”, rekao je Lakhiwal. „Ne vole tu riječ jer smatraju da će kandidati, ako znaju kako će se ocjenjivati, izigrati sustav. No ovdje smo otkrili da im otkrivanje više o procesu omogućuje da budu autentičniji.”
Njegov je argument precizan: kandidatu ne treba otkriti koji se model koristi za analizu snimke, ali treba mu omogućiti da proces razumije na isti način na koji razumije što znači razgovor s čovjekom. Bez toga, kaže, kandidat je u poziciji u kojoj ne može odbiti razgovor — pogotovo ako je to njegova željena tvrtka — ali ni ne zna po kojim se pravilima igra.
Pitanje koje studija nije postavila
Ovdje se otvara ono što istraživanje ostavlja po strani. Ako algoritam ne razlikuje iskrenog kandidata od onoga koji izmišlja kvalifikacije, a tvrtke sve više ovise upravo o algoritmu u prvom krugu selekcije, tko onda uopće odgovara za loš odabir? Ljudski ocjenjivači u studiji pokazali su sposobnost prosudbe koju softver nema. Automatizacija prvog kruga stoga ne uklanja pristranost — samo je premješta na drugu razinu, gdje je nitko ne vidi i nitko za nju ne odgovara.
To nije prvi put da se tehnologija uvodi u procese odabira s obećanjem objektivnosti, a završava kao crna kutija. Isti se obrazac ponavljao kod algoritamskog filtriranja životopisa, kod sustava za procjenu kreditne sposobnosti i kod automatskog odlučivanja u javnoj upravi: alat se prvo predstavi kao neutralan, a onda se pokaže da preslikava pretpostavke onih koji su ga programirali — ili, kao u ovom slučaju, da ih uopće ne prepoznaje.
Praktična pouka za kandidate gotovo je cinična. Iskrenost se isplati pred čovjekom, ali ne nužno pred strojem. Dok god tvrtke kriju kriterije, a algoritmi ne kažnjavaju uljepšavanje, prvi krug zapošljavanja nagrađuje upravo ono ponašanje koje bi trebao filtrirati. Rješenje koje studija predlaže — otvoreno objašnjenje procesa — ne koristi samo kandidatima. Ono je jedini način da poslodavac uopće zna koga je zaposlio.