Muljaža? – Nvidia namjerno zaključava kartice RTX 4090 na pola snage

Viralna objava obećava dvostruke performanse za sve GeForce RTX 40 kartice, no stvarnost je bitno skromnija: projekt postoji, ali radi samo na dvije kartice, samo pod Linuxom i ubrzava isključivo jednu vrstu izračuna.

Riječ je o projektu gpu-unlock-ada objavljenom na GitHubu pod pseudonimom JustAResearcher. Nije to hak koji mijenja BIOS kartice ni modificira Nvidijin upravljački program — radi se o modulu za Linux jezgru koji pri podizanju sustava, neposredno prije nego što službeni upravljački program preuzme kontrolu, promijeni jednu postavku na kartici.

Ta postavka tiče se Tensor Coreova, jedinica namijenjenih umjetnoj inteligenciji. One množe takozvane kratke brojeve (FP16 ili BF16), a rezultate zbrajaju u preciznijem formatu FP32 kako se pogreške zaokruživanja ne bi nagomilale. Nvidia taj način rada na GeForce karticama godinama drži na pola snage: 165 TFLOPS umjesto 330 na RTX 4090, dakle točno polovicu onoga što čip može. Modul tu kočnicu otpušta.

Obećanje za sve kartice ne stoji

Najava da će ubrzanje obuhvatiti sve, od 4090 do 4060 Ti, ne drži vodu. Modul prihvaća samo RTX 4090 i, u eksperimentalnom načinu, RTX 4070 Ti Super — svaka je potvrđena na jednom jedinom primjerku. Windows inačica koju je na Hugging Faceu objavio TOTORONG cilja isključivo jednu modificiranu RTX 4080 s 32 GB memorije.

Na tim karticama mjerenja doista potvrđuju udvostručenje: sa 165,6 na 331,6 TFLOPS na RTX 4090, te s 95 na 189,9 TFLOPS na RTX 4070 Ti Super, prema tehničkom izvještaju. No ti brojevi mjere petlju koja vrti u zatvorenom krugu, bez dodirivanja memorije. Na RTX 4070 Ti Super drugi izvještaj pokazuje da pravi matrični izračun u FP8 dobiva samo 0,3 posto. INT8 se ne mijenja ni na toj kartici ni na RTX 4090.

Na stvarnom matričnom izračunu u FP16 ili BF16, formatima koje modul otključava, dobitak postoji, ali se topi. Na modificiranoj RTX 4080 TOTORONG-a doseže 100 posto kod matrica veličine 4096, a zatim pada na 60 do 71 posto kod veličine 8192. Na RTX 30 seriji korisnička iskustva govore još jasnije: 14 do 36 posto kada jezični model čita upit, gotovo ništa tijekom generiranja teksta jer ga koči memorijska propusnost, i nikakav dobitak u igrama. Oni koji su usporedili rezultate prije i poslije našli su ih identičnima do zadnjeg bita.

Postupak nije bezopasan

Objavljeni post u jednoj je stvari u pravu: BIOS se ne flashira, upravljački program se ne modificira i ništa se trajno ne upisuje u karticu. Treba, međutim, Linux, RTX 4090 ili 4070 Ti Super i malo hladnokrvnosti.

Postupak u pet koraka traži da se kartica pronađe naredbom lspci, da se instaliraju Git, Python 3, zstd, zaglavlja jezgre, DKMS i alati za prevođenje, a zatim da se repozitorij klonira i pokrene make install. Firmware se preuzima i generira na samom računalu. Slijedi dodavanje opcije podizanja u GRUB konfiguraciju, gašenje, izvlačenje kabela na trideset sekundi i ponovno uključivanje — modul traži hladnu karticu. Provjera ide preko journalctl zapisa, u kojem se mora pojaviti linija gpu_unlock: unlocked.

Rizik nije zanemariv. TOTORONG i sam upozorava na mogući neuspjeh podizanja sustava, gubitak slike, korupciju podataka, pa i materijalnu štetu. Modul zaobilazi Nvidijin potpisani lanac podizanja, što proizvođač nikada nije odobrio. Na RTX 4090 razvijatelj priznaje da točnost izračuna još nije provjerena na stvarnom radnom opterećenju, a na 4070 Ti Super tek na nekoliko testnih izračuna. Za igrača je korist nula.

Za nekoga tko na RTX 4090 pod Linuxom trenira ili dorađuje modele u BF16, igra može vrijediti svijeću — ali uz vlastito mjerenje prije i poslije. I uz jednu važnu napomenu: zrcalne stranice koje već niču oko projekta bolje je ignorirati i držati se izvornih repozitorija na GitHubu i Hugging Faceu.

Ovdje se, međutim, postavlja pitanje koje autori objave ne postavljaju: zašto proizvođač čipa koji fizički može 330 TFLOPS na tržište šalje karticu zaključanu na 165? Odgovor nije tehnički nego tržišni — umjetno ograničenje drži cijenu radne stanice daleko iznad cijene potrošačke kartice. Isti obrazac Hrvatska dobro poznaje iz drugih industrija: hardver je zaključan, a kupac plaća punu cijenu za pola mogućnosti. Dokle god je tako, ovakvi projekti ostat će zanimljivost za entuzijaste, a ne alat koji mijenja pravila igre.