Modal, startup specijaliziran za iznajmljivanje računalne snage AI developerima, objavio je u ponedjeljak da će dio svojih usluga pokretati na Nvidijinu procesoru Vera. Dosad su njegovi poslužitelji radili isključivo na x86 čipovima Intela i AMD-a. Riječ je o prvom ozbiljnijem ulasku Nvidije na teren koji su ta dva proizvođača desetljećima držala za sebe.
U internim testovima Vera je, pod visokim opterećenjem, obradila do dvostruko više zadataka u minuti od Intelova poslužitelja s istim brojem dodijeljenih logičkih jezgri. Modal je za usporedbu izgradio vlastiti benchmark nazvan Agentless Agent Bench, koji izvršava 50 tipičnih agentskih zadataka — kompajliranje koda, pretraživanje datoteka, rad s Git repozitorijem — u paralelno pokrenutim Docker kontejnerima.
Što test zapravo pokazuje
Na stroju u mirovanju, s jednim zadatkom odjednom, Vera je često ispred konkurencije, ali priznaje to i sam autor testa Erik Dunteman: „Ne uvijek, i ne s osobito velikom razlikom.” Prava prednost pojavljuje se kad se kontejneri nagomilaju. Na razini cijelog stroja, sa 150 kontejnera, razlika prema Intelu pada na oko 40 posto — Vera tada obradi 6500 zadataka u minuti, naspram 4600 koliko postigne Intelov poslužitelj koji ima 256 threadova prema Verinih 176.
Modal ne navodi točne oznake testiranih čipova ni podatke o potrošnji. I ključno ograničenje: Vera je bila suprotstavljena aktualnim generacijama Intela i AMD-a, dok njihovi nasljednici — pravi konkurenti u godinama koje dolaze — nisu testirani. Svaki zaključak o tome da ARM arhitektura sama po sebi pobjeđuje u AI agentskim opterećenjima treba uzeti s rezervom, tim više što Graviton čipovi AWS-a, također na ARM-u, zaostaju znatno ispod Vere. Modal razliku pripisuje memorijskoj propusnosti Vere, koja omogućuje više kontejnera po jezgri bez usporavanja procesora.
Nvidija je taj detalj svjesno isforsirala. Vera je njezin prvi poslužiteljski procesor s vlastitim jezgrama Olympus, na ARM v9.2 instrukcijskom setu. Ima 88 jezgri i 176 threadova, a memorijska propusnost doseže 1,2 TB/s — dvostruko više od prethodnog Gracea, prema Nvidijinu bijelom papiru iz srpnja.
Bitka za središnji procesor
Nvidija je milijarde zaradila na GPU akceleratorima. No s AI agentima CPU se ponovno pokazuje kao usko grlo: agent velik dio vremena čeka odgovor modela, a zatim može zatražiti deseterostruko više računanja za običnu instalaciju paketa. Kad CPU kasni, GPU-i čekaju. Dunteman to sažima jednostavno: „Svako vrijeme ušteđeno na CPU-u je vrijeme ušteđeno na GPU-u.”
Nvidija za ovu poslovnu godinu planira najmanje 20 milijardi dolara prodaje Vere, a ukupno tržište procjenjuje na 200 milijardi dolara. Tvrtka se istovremeno probija i u osobna računala sa svojim RTX Spark čipom. Posljedica je jasna: AI cloudovi mogli bi kupovati GPU, CPU i međuspojnice od istog dobavljača — i o njemu ovisiti za sve.
Modal, koji je 14. listopada prikupio 750 milijuna dolara uz valuaciju od 15,75 milijardi dolara i cilja milijardu dolara prihoda na godišnjoj razini, ipak ne odustaje od Intela i AMD-a. Prelazak na ARM zahtijeva prilagodbu cijele infrastrukture, a šef tvrtke Erik Bernhardsson potvrdio je za Reuters da će flota ostati mješovita.
Ovdje se postavlja pitanje koje izvještaj o benchmarku ne dotiče: koliko je zdravo da jedan dobavljač drži GPU, CPU i međuspojnicu u rukama, dok mu kupci poput Modala istovremeno postaju ovisni o njegovu cjelokupnom ekosustavu? Koncentracija te razine nije samo poslovni rizik za cloud providere — ona oblikuje cijenu i dostupnost računalne snage na kojoj će počivati europska digitalna infrastruktura. Ako domaće tvrtke i javne ustanove budu gradile vlastite AI sustave na tuđem hardveru i tuđem cloudu, pitanje tehnološke autonomije prestaje biti apstraktna tema.
0 komentara
Još nema komentara. Budite prvi.