Zastoj letova u SAD-u otvara sumnju u novi algoritam za navođenje

Zrakoplovi su u petak nakratko stali diljem Sjedinjenih Država, a pitanje koje sada pritišće dužnosnike glasi: je li novi algoritam za navođenje letova dobio prvu veliku probu upravo u trenutku kad je sustav zakazao?

Federalna uprava za zrakoplovstvo (FAA) izdala je takozvani ground stop — potpuno zaustavljanje letova u cijeloj zemlji — zbog problema u komunikaciji koji je zahvatio sve centre za kontrolu zračnog prometa. Riječ je o prvom potpunom zastoju zračnog prometa u SAD-u od siječnja 2023., a ministar prometa Sean Duffy potvrdio je na društvenim mrežama da tehničari ispituju uzrok.

Zastoj je uslijedio samo nekoliko dana nakon što je FAA uvela alat umjetne inteligencije pod nazivom SMART — Strategic Management of Airspace Routing Trajectories — na nacionalnoj razini. Sustav je do tada radio u Washingtonu, a koštao je nešto manje od milijardu dolara. Njegova je svrha, prema agenciji, smanjiti kašnjenja, potrošnju goriva i poboljšati iskustvo putnika.

Prijetnja koju nitko nije želio izgovoriti prvi

Dužnosnici su izbjegavali izravnu vezu. No administrator za domovinsku sigurnost Markwayne Mullin priznao je pred kamerama da njegova agencija ispituje upravo tu mogućnost, nakon što ga je novinar upozorio na sumnjivo podudaranje datuma. „Gledamo to”, rekao je Mullin, dodavši da surađuju sa svim nadležnim tijelima.

Tvrtka Air Space Intelligence, izvođač koja stoji iza SMART-a, brzo je odbacila svaku vezu. „Trenutni zastoj nije nastao na temelju SMART sustava, nijednog proizvoda ASI-ja ni naše integracije s FAA-om i kontrolom zračnog prometa”, priopćili su iz kompanije. Ni Microsoft se nije dao uhvatiti na istu udicu — zbog istodobnih ispada Outlooka i Teamsa jasno su poručili da nema naznaka povezanosti s nacionalnim zastojem letova.

I dok se uzrok službeno još utvrđuje, ostaje pitanje koje nitko od aktera nije postavio: tko je odobrio uvođenje algoritma kao pomoći kontrolorima leta bez javne rasprave i neovisne provjere, i zašto se o gotovo milijardu dolara vrijednom sustavu govori tek kad zrakoplovi stanu na pisti?

Isti obrazac kao i dosad

Ovo nije prvi put da se tehnološki eksperiment u javnoj infrastrukturi opravdava uštedama, a propituje tek nakon incidenta. Sjetimo se uvođenja sličnih „pametnih” sustava u europske željeznice i energetske mreže, gdje su se pogreške algoritama ispravljale ljudskom rukom u zadnji čas. Razlika je što ovdje govorimo o desecima tisuća ljudi koji su u svakom trenutku u zraku.

Umjetna inteligencija koja kontroloru daje savjet može, u najboljem slučaju, ubrzati rutinske odluke. U najgorem — i to je scenarij koji nijedan regulator nije javno razradio — može ponuditi pogrešnu preporuku koju čovjek pod pritiskom prihvati. Zato naš stav ostaje jasan: ovakvi sustavi moraju proći domaću, neovisnu provjeru prije nacionalnog uvođenja, a svaka veća odluka o njihovoj primjeni trebala bi biti potvrđena referendumom ili barem otvorenom raspravom u parlamentu.

Ne tvrdimo da je SMART uzrok zastoja. Ali tvrdimo da je nedopustivo da građani o tome saznaju posredno, iz televizijskih gostovanja i pressice izvođača, dok FAA šuti. Ako se potvrdi da je riječ samo o komunikacijskom kvaru, šteta je ograničena. Ako se ne potvrdi — pitanje odgovornosti ide ravno do onih koji su potpisali ugovor vrijedan milijardu dolara bez javnog nadzora.