Dok se svijet bavi pitanjem tko će pobijediti u utrci za umjetnom inteligencijom, čelnici vodećih kompanija sada javno predlažu da se ta utrka namjerno uspori — i to ne zbog etike, nego zbog straha od vlastitog proizvoda.
Izvršni direktor Anthropica Dario Amodei objavio je prijedlog prema kojem bi se razvoj najmoćnijih AI modela trebao kontrolirano usporiti. Uz to je iznio tri strategije: uvođenje vanjskih evaluatora u same kompanije, koordinaciju sigurnosnih standarda među vodećim tvrtkama unutar demokratskih država te globalnu suradnju, uključujući i onu s autoritarnim režimima.
Anthropic se, kako tvrdi Amodei, jednostrano obvezao na prvi korak. Vanjskim organizacijama poput METR-a dao bi pristup svojim prostorima, značke, radna mjesta i pristup koji je gotovo jednak onome koji imaju unutarnji timovi za procjenu rizika. OpenAI je preko Sama Altmana poručio da će slijediti primjer, a Elon Musk je kratko zaključio da je Amodei u pravu.
Što stoji iza odjednom probuđene brige
Anthropic nije slučajno počeo govoriti o usporavanju. Istraživač Jacob Coxon navodno je dao otkaz u toj kompaniji uz tvrdnju da vodeće AI tvrtke „kockaju s našim životima”, dok ljudi koji grade tu tehnologiju „iskreno vjeruju da bi nas mogla sve ubiti do kraja desetljeća”. Amodei ga u svom tekstu ne spominje izravno, ali priznaje da su ga na razmišljanje potaknula dva događaja: sigurnosni incident između OpenAI-a i HuggingFacea te činjenica da AI sve brže gradi sam sebe.
Drugim riječima, priznanje dolazi iznutra. Ne od kritičara, ne od novinara, ne od aktivista — nego od ljudi koji tu tehnologiju razvijaju i zarađuju na njoj.
Regulatori u zgradi kompanije
Amodei svoje „ugrađene evaluatore” uspoređuje s regulatorima koji sjede u bankama. Zvuči razumno, ali postoji kvaka: te bi evaluatore birale i plaćale upravo kompanije koje trebaju nadzirati. Povijest nas uči da samoregulacija rijetko završi protiv interesa onoga koji je plaća.
Amodei ipak traži i da vlade obvežu ostale vodeće kompanije na isti model. Zanimljivo je da pritom priznaje kako bi koordinacija među kompanijama mogla izazvati antitrustovske istrage, pa predlaže da američka vlada izda usko izuzeće za razgovore o sigurnosti. Država, dakle, ne treba sudjelovati — samo treba izdati dozvolu da se konkurenti dogovaraju.
Kina kao izlika i kao argument
Kritičari svakog usporavanja obično izvlače isti adut: Kina će nas prestići. Amodei ga ne ignorira. Tvrdi da bi Sjedinjene Države, ako uskrate prodaju moćnih čipova i opreme za proizvodnju poluvodiča kineskim kompanijama te zaustave „destilaciju modela”, mogle dovoljno usporiti kineski napredak da povećaju vlastitu prednost u sljedećih tri do pet godina.
No onda ide korak dalje i predlaže globalnu koordinaciju — uključujući suradnju s Kinom. Priznaje da su „oštri limiti onoga što se može postići”, ali smatra da postoji prostor za dogovor o zabrani usko definiranih i očito opasnih primjena, poput korištenja AI-a za proizvodnju biološkog oružja.
To je u najmanju ruku proturječno. S jedne strane predlaže tehnološko gušenje Kine, a s druge suradnju s njom. Oba cilja ne mogu istovremeno biti iskrena politika.
Kriza povjerenja ili borba za tržište
Novinar Brian Merchant otvoreno je skeptičan. Tvrdi da još nije vidio „vjerodostojnu, korak-po-korak dokumentaciju” kako bi AI mogao od samousavršavanja doći do istrebljenja čovječanstva. Njegova ocjena Amodeijevih prijedloga je još oštrija: takvi potezi „vjerojatno bi samo koristili Anthropicu i OpenAI-u — to je regulatorno otimanje u akciji”.
Amodei odgovara da je njegov pogled „uravnotežen” i da je pravi problem „kriza povjerenja” — ljudi više ne vjeruju tehnološkim kompanijama, industriji ni vladi. To je točno, ali ne nudi rješenje. Povjerenje se ne vraća objavama na blogu, nego promjenom ponašanja.
I dok se rasprava vodi o tome hoće li nas AI uništiti za deset godina, postoji pitanje koje nitko od potpisnika ove inicijative nije postavio: kome točno ide korist od usporavanja? Ako veliki igrači zamrznu razvoj na svojoj razini, manji konkurenti ostaju trajno zaključani ispod njih. Usporavanje tako postaje instrument očuvanja tržišne moći, a sigurnost samo ambalaža.
Odgovor za sada glasi: po njihovim.
Ide pucanje AI balona. Krajem ove i pocetkom sljedece godine dolazi do refinanciranja jeftinih kredita sa skupim kreditima. Ako ne uspiju pokazati poslovni model koji donosi prihod, gotovi su. Mogu eventualno izdrzati do.jeseni ako cec Mag7 trositi realne prihode na njih. Onda su svi kaputt.