Ista logika koja stoji iza algoritama za zapošljavanje sve se češće primjenjuje i na druge odluke koje su nekad donosili ljudi.
Istraživači s američkog sveučilišta MIT objavili su rad u časopisu Philosophical Perspectives u kojem su matematički propitali uobičajene prigovore takozvanoj algoritamskoj monokulturi — situaciji u kojoj cijelu jednu industriju opslužuje isti algoritam. Zaključili su da većina prigovora, uključujući onaj o sustavnom isključivanju kandidata, ne stoji ili barem nije presudan protiv svih oblika monokulture.
Autori rada su Brian Hedden, profesor na Odjelu za lingvistiku i filozofiju, i Manish Raghavan s poslovne škole MIT Sloan. Njihov je argument jednostavan: broj zaposlenih ljudi ne mijenja se time što sve tvrtke koriste isti algoritam. Posla ima jednako, samo se tvrtke otimaju o isti bazen kandidata — što prema njihovu izračunu diže plaće, a ne ruši kandidate.
Od bankara do softvera
Monokultura nije novost. Kreditne odluke nekad su donosili bankari u svojim bankama, a danas se svi služe standardiziranim kreditnim rejtingom koji proizlazi iz jednog modela. Isti obrazac ponavlja se u zapošljavanju: šačica algoritama za probir životopisa koristi se u stotinama velikih kompanija.
Hedden i Raghavan tvrde da pravi problem nije isključivanje, nego eho-komore — homogenizacija informacija. Ako svi gledaju isti izvor, tvrtke prestaju otkrivati kandidate koji su možda bolji od očitih. To nije teorijska sitnica: riječ je o tome da se najbolji ljudi za posao nikad ni ne razmotre.
Rješenje koje predlažu je takozvani ansambl algoritam — paket koji više različitih modela sažima u jednu ocjenu. U simulacijama se takav pristup ponekad pokazao boljim od niza različitih algoritama po tvrtkama. Koliko je to izvedivo u praksi, autori ne znaju.
Pitanje koje istraživači nisu postavili
Ostaje neupitno tko algoritme piše i čije interese oni nose. Ako jedan model odlučuje o sudbini tisuća kandidata, onda njegovi parametri nisu tehnički detalj nego politička odluka — donesena u privatnoj firmi, bez javnog nadzora i bez ikakve mogućnosti da građanin provjeri po kojem je kriteriju odbijen.
To je isti obrazac koji vidimo u bankarstvu: odluke o kreditu, zaposlenju ili stanovanju sele se s ljudi na crne kutije, a odgovornost isparava. Istraživači s MIT-a raspravljaju o tome je li monokultura loša, ali ne pitaju je li uopće prihvatljivo da o tuđem životu odlučuje softver koji nitko izvan tvrtke ne može ispitati.
Njihov vlastiti zaključak to posredno priznaje: odgovori su, kažu, kontekstualni i tek predstoji empirijski rad. Drugim riječima, sustav se već primjenjuje na milijune ljudi, a razumijevanje njegovih posljedica tek se skicira.