Umjetna inteligencija rješava matematičke probleme koje nitko ne razumije

Matematički dokaz koji su strojevi izračunali u nekoliko tjedana otvara pitanje koje akademska zajednica još nije spremna formulirati: kome pripada znanje koje nitko ne razumije.

Istraživački tim s Princetona, koji vodi izvanredni profesor računalnih znanosti Pravesh Kothari, objavio je studiju slučaja o korištenju umjetne inteligencije u rješavanju otvorenog matematičkog problema. Riječ je o sužavanju granica Grothendieckove konstante, pojma koji je 1953. definirao Alexander Grothendieck, a koji ima primjenu u teoriji grafova i kvantnoj informatici. Rezultati još nisu prošli recenziju, ali su objavljeni na poslužitelju arXiv.

Postupak je bio sljedeći: jedan model je računao, drugi je provjeravao račun, a ljudi su povremeno ostavljali upute na oglasnoj ploči koju su agenti čitali. Oko 18. iteracije modeli su zapeli u petlji. Istraživači su intervenirali, preformulirali pitanje i nakon tridesetak dodatnih ciklusa stroj je dovršio posao. Ono što bi čovjeku oduzelo godine, stroj je odradio u tjednima.

Kotharijeva ocjena vlastite uloge zvuči gotovo kao priznanje: da je imao istu razinu angažmana na radu prošle godine, ne bi bio naveden kao autor. Modeli, kaže, ne odustaju. Ljudi bi, realno, negdje na pola puta digli ruke.

Odgovor stiže prije razumijevanja

Ovaj slučaj nije izoliran. OpenAI je, prema dostupnim informacijama, oborio Erdősevu hipotezu o jediničnoj udaljenosti iz 1946. i riješio Navier-Stokesov problem, jedan od sedam Millennium problema. Navier-Stokesov dokaz ima 166 stranica i verificirao ga je Lean, automatizirani dokazivač teorema — ali ne i čovjek.

Time se ruši ustaljeni ritam matematike. Otkriće je donedavno značilo godine rada, desetke radionica, seminara i recenziranih radova. Proces i odgovor išli su zajedno. Danas odgovor jednostavno stigne, a istraživači ostaju dešifrirati što im je dostavljeno.

Jacob Tsimerman, ovogodišnji dobitnik Fields Medalje, poručio je da se matematika kao disciplina ne može održati ako strojevi preuzmu rješavanje teških problema. Samo nekoliko sati nakon što je primio medalju, objavio je da napušta Sveučilište u Torontu i prelazi u OpenAI. Terence Tao, dobitnik iz 2006., drži drugu poziciju: matematika je zajednički proces i stroj ga ne može zamijeniti. Umjetna inteligencija proizvela je dokaze od 100.000 redaka koji su uglavnom nerazumljivi, rekao je Tao. Generirati i verificirati dokaz nije dovoljno — dokaz treba biti objašnjen tako da ga zajednica može razumjeti.

Dvadeset i pet dobitnika Fields Medalje potpisalo je otvoreno pismo u kojem tvrde da laboratoriji u utrci za rješenjima zanemaruju širenje matematičkog razumijevanja.

Trening koji više ne funkcionira

Posljedice se već vide u učionici. Kothari kaže da su starter-projekti koje je davao studentima prve godine doktorskog studija postali bespredmetni. Ti su zadaci bili matematički ekvivalent dizanja utega — student mora podignuti mnogo problema od pet kilograma prije nego prijeđe na teže. Bez tog koraka nema pripreme za velika pitanja.

Njegov optimistični scenarij je da je ovo prolazna faza i da će se istraživački standardi presložiti. Pesimistični je da će ljudi prestati raditi na velikim matematičkim problemima jer strahuju da će ih model preteći za tri mjeseca.

Ovdje se otvara pitanje koje autori studije nisu postavili: ako stroj rješava probleme na temelju radova, udžbenika i riješenih zadataka, čime se ti modeli točno hrane? Podaci o dugotrajnom procesu otkrivanja — o promašenim pristupima, neočekivanim rezultatima i promjenama strategije — gotovo da i ne postoje u javnim korpusima. Modeli su naučeni na ishodima, ne na putu. Zato pogađaju odgovore, a ne prepoznaju vrijednost.

To nije samo akademska nijansa. Ako se znanje proizvodi brže nego što se može provjeriti i objasniti, onda se odluke o tome što je važno donose bez ljudskog suda. Isto načelo vrijedi i izvan matematike: u medicini, energetici, obrani. Alat koji daje odgovor ne daje i odgovornost za posljedicu.

Kotharijev tim imao je sreću što su ljudi na vrijeme primijetili da modeli vrte u krug. Sljedeći put, kad se to ne primijeti, nitko neće znati da je rezultat nastao slučajno.