Microsoftov lokalni AI model donosi slobodu po cijeni od gotovo šest tisuća dolara

Microsoft je najavio lokalnu verziju svog modela MAI-Code-1.1-Flash, no cijena te „slobode” je hardver od gotovo šest tisuća dolara.

Kompanija je u srijedu 7. listopada na svom tehničkom blogu predstavila inačicu modela MAI-Code-1.1-Flash koja radi izravno na Windows računalu, bez slanja upita na Microsoftove servere i bez naplate po tokenu. Model je specijaliziran za pisanje koda, a u GitHub Copilot stigao je još ovog ljeta. Lokalno pokretanje znači da se izračun obavlja na samom stroju, pa Microsoft ne može naplatiti potrošene tokene — ali zato teret prebacuje na vašu opremu.

Brojke su nemilosrdne. Sam model zauzima 53 GB memorije, a Microsoft preporučuje više od 120 GB video memorije za dobre performanse. Kada model iskoristi maksimalni kontekstni prozor od 256.000 tokena, zauzeće se penje na 75,5 GB. To praktično znači da lokalno pokretanje nije opcija za prosječno prijenosno računalo, već isključivo za skupe konfiguracije poput Surface Laptopa Ultra sa 128 GB unificirane memorije.

Jeftinije po tokenu, skuplje po računalu

U cloud verziji MAI-Code-1.1-Flash naplaćuje se 0,20 dolara po milijunu ulaznih tokena i 1,20 dolara po milijunu izlaznih, što je znatno niže od prethodne verzije s 0,75 i 4,50 dolara. Lokalno pokretanje tu naknadu briše — ali je nadoknađuje cijenom stroja. Surface Laptop Ultra u Sjedinjenim Državama kreće od 2.599 dolara za verziju s 24 GB memorije, koja je za model od 53 GB praktički neupotrebljiva. Konfiguracija sa 64 GB košta 4.299 dolara, ali ni ona nije dovoljna za maksimalni kontekst. Tek verzija sa 128 GB, po cijeni od 5.899 dolara, može izdržati puni radni profil.

Drugim riječima, „besplatno” lokalno pokretanje košta gotovo 5.300 eura bez poreza. To je cijena koju mogu opravdati samo tvrtke ili developeri koji svakodnevno troše ogromne količine tokena, a i tada je pitanje kada se investicija vraća.

Performanse: solidne, ali ne vrhunske

Microsoft tvrdi 62,9 posto uspješnosti na Terminal-Bench 2.1 u cloud verziji, odnosno 66,3 posto lokalno. Na SWE-Bench Verified, testu sa 500 stvarnih programskih grešaka, cloud verzija postiže 72,6 posto, a lokalna 70,8 posto. Za usporedbu, modeli konkurencije su daleko ispred: Claude Opus 5.5 doseže 87,6 posto na Terminal-Bench 2.1, GPT-6 Astra 87,3 posto, Claude Sonnet 5.5 83,1 posto, a GPT-5.6 Luna 79 posto. Microsoft se u vlastitim usporedbama radije poziva na GPT-OSS-120B, open-source model OpenAI-ja u komprimiranoj verziji, koji na SWE-Bench Verified postiže svega 32 posto.

Treba napomenuti da su sva mjerenja Microsoftova, provedena 5. listopada na Surface Laptopu Ultra, i da neovisne provjere tek slijede. Različite ljestvice koriste različite metodologije, pa su brojke samo orijentir. No čak i uz tu ogradu, jasno je da MAI-Code-1.1-Flash zaostaje za najboljim modelima na tržištu, posebno na složenim zadacima.

Arhitektura koja omogućuje lokalno pokretanje

Model koristi mješavinu eksperata: od ukupno 137 milijardi parametara, u svakom koraku aktivno je samo 6,8 milijardi. Microsoft ga je dodatno kvantizirao na prosječno 3,3 bita po parametru, čime je veličina pala na 53 GB, oko 80 posto manje od cloud verzije. Ta arhitektura omogućuje da model stane u memoriju prijenosnog računala, ali uz kompromis u preciznosti i brzini na zahtjevnijim zadacima.

Do kraja listopada GitHub Copilot ponudit će dvije opcije u eksperimentalnom pristupu: automatski odabir između lokalnog i cloud modela te ručni odabir lokalnog modela. Naredbe koje pokreće agent moći će se izvršavati u izoliranom okruženju, takozvanom sandboxu, koji ograničava pristup datotekama i mreži. Copilot će se moći spojiti i na lokalni server kompatibilan s OpenAI API-jem, pa neće biti ograničen samo na Microsoftov model.