Dvadeset i pet dobitnika Fields Medal, najprestižnije nagrade u matematici, potpisalo je otvoreno pismo u kojem tvrde da im AI laboratoriji ugrožavaju intelektualni rad dok se međusobno nadmeću rješenjima slavnih matematičkih problema.
Pismo nije apstraktna zabrinutost. Prošlog je tjedna profesor njujorškog sveučilišta Tristan Buckmaster optužio OpenAI da je na njega vršio pritisak kako ne bi pripisao zasluge suradniku zaposlenom u Anthropicu za rješavanje važnog matematičkog problema, piše TechCrunch. Buckmaster je pritom postavio pitanje je li tvrtka njihov rad s Codexom iskoristila za vlastiti revolucionarni dokaz tijekom maratonskog vikenda inferencije.
U četvrtak je OpenAI povukao sponzorstvo matematičkog događaja na CalTechu nakon što su ga istraživači s tog sveučilišta kritizirali. Slijed događaja otkriva obrazac: korporacija koja gradi poslovni model na tuđem intelektualnom radu povlači se čim je akademska zajednica prozove.
Dokaz koji nitko nije mogao provjeriti
Potpisnici pisma upozoravaju da rješenja koja generiraju veliki jezični modeli mogu koristiti čovječanstvu samo ako ih matematička zajednica može razumjeti i prenijeti dalje. U praksi to izostaje.
„Često se ta rješenja objavljuju u žurbi, bez vremena za pravilnu razradu, izdvajanje novih metoda i ideja te citiranje relevantnog prethodnog rada drugih”, napisali su potpisnici. OpenAI-jev dokaz, dodaju, ostaje neprovjeren.
Iz toga proizlaze pitanja o atribuciji i plagijatu. Bez matematičara koji će ideje razviti i uklopiti u kanon, AI koncepti nikada ne bi postali dijelom živog znanja, a ključni lanac ljudskog prijenosa među matematičarima bio bi prekinut.
Među matematičarima raste sumnja da se njihovo korištenje Codexa hrani natrag u nove OpenAI-jeve modele. Strah od zatvaranja otvorenog istraživanja nije teorijski: ako laboratoriji na čelu razvoja vide put do otkrića, mogu potrošiti desetke milijuna dolara na modele kako bi do dokaza stigli prije izvornih istraživača. To izravno potiče tajnovitost.
Isti obrazac kao u softverskom inženjerstvu
Pismo se nadovezuje na Leidensku deklaraciju, dokument koji je u lipnju objavila radna skupina matematičara i koji također propisuje preporuke za istraživače, institucije i donositelje odluka.
Kao i u softverskom inženjerstvu i drugim područjima gdje AI alati mijenjaju način rada, matematičari nalaze opravdanje u radu oko samog rada. Vrijednost matematike nije samo u dokazima i priznanju, nego u intelektualnoj nadgradnji koja hrani studente, rađa nova pitanja i ugrađuje ih u civilizaciju.
Potpisnici poručuju da problem nije ograničen na njihovo polje. „Pitanja s kojima se matematička zajednica sada suočava slična su onima s kojima se susreću druge znanstvene i kreativne profesije, a ukazuju na pitanja s kojima bi se moglo suočiti cijelo čovječanstvo: kako osigurati da, dok AI mijenja način na koji se radi, ne izgubimo iz vida čemu je taj rad uopće trebao služiti”, navode.
Ono što pismo ne kaže eksplicitno jest tko plaća cijenu tišine. Ako dokaz vrijedi desetke milijuna dolara i dolazi iz privatnog laboratorija, a ne iz sveučilišta, znanje se pretvara u vlasništvo. Pitanje koje izvor nije postavio glasi: zašto javno financirana matematika uopće mora moliti za pristup rezultatima koje su njezini istraživači omogućili?
Ono što mi je posebno zanimljivo u ovome jest da se matematika možda nalazi nekoliko koraka ispred drugih akademskih disciplina u suočavanju s pravim problemom AI-ja. Nije glavno pitanje: „Hoće li AI zamijeniti matematičare?” Nego: „Kako ćemo razlikovati generiranje odgovora od stvarnog stvaranja i prenošenja znanja?” To je puno dublje pitanje. Ako AI proizvede dokaz od 500 stranica koji je formalno ispravan, ali nitko ne može iz njega izvući novu ideju, možda smo dobili istinitu informaciju, ali ne i korisno matematičko znanje. A ako drugi matematičar iz tog dokaza uspije izvući elegantan princip koji se primjenjuje na deset drugih problema, tada je napravljen ključni ljudski korak. I postoji još jedna ironija: ako matematičari zbog straha od AI laboratorija počnu skrivati rezultate dok ne budu sigurni da su zaštićeni, AI bi mogao neizravno proizvesti upravo onu akademsku kulturu koju bi svi najmanje željeli — manje otvorenosti, manje suradnje i više utrke… Čitaj više »