Dok se tehnološka industrija utrkuje u gradnji sve moćnijih AI modela, dvije kompanije klade se na posve drugu zaradu: odlučivanje koji će se model uopće koristiti.
Stripe i Ramp ovaj su tjedan gotovo istovremeno predstavili slične poteze. Ramp je u srijedu javno lansirao Router.com, alat koji je interno koristio tri godine. Stripe je pak, prema izvješćima, pristao preuzeti OpenRouter, nezavisni startup, u poslu vrijednom najmanje 7,5 milijardi dolara. Obje tvrtke grade posrednički sloj koji odlučuje koji će AI model obraditi svaki pojedini zahtjev, temeljem cijene i kvalitete izvršenja.
Logika je jednostavna: trošak rješavanja istog zadatka, poput pisanja koda ili odgovora na korisničku prijavu, može se dramatično razlikovati ovisno o tome koji model ga obrađuje. Kada tvrtke pokreću AI na milijunima zahtjeva, ti se troškovi brzo gomilaju. Router sjedi između aplikacije i AI kompanija te svaki zahtjev šalje najjeftinijem modelu koji još uvijek može kvalitetno obaviti posao, a prebacuje se na rezervni model ako pružatelj usluge zakaže.
Ušteda od 40 posto
Ramp tvrdi da je Router interno smanjio troškove umjetne inteligencije za oko 30 posto, a rani korisnici bilježe prosječnu uštedu od 40 posto. OpenRouter, s druge strane, funkcionira kao javno tržište: programeri se jednom povežu i pristupaju više od 400 modela od preko 80 pružatelja, umjesto da uspostavljaju zasebnu vezu sa svakom AI kompanijom. Platforma navodno obrađuje više od deset trilijuna tokena dnevno i služi više od deset milijuna programera.
Ono što Stripe i Ramp grade podsjeća na disciplinu koju su tvrtke već primijenile za kontrolu troškova cloud računalstva. Umjesto kupnje fiksnog kapaciteta unaprijed, odlučuje se u stvarnom vremenu treba li zadatak skupi ili jeftini alat. Stripe već obrađuje plaćanja za mnoge AI kompanije, a preuzimanje OpenRoutera daje mu izravan uvid u to koje modele programeri stvarno biraju i koliko za njih plaćaju.
Ovdje se nameće pitanje koje izvor ne postavlja: što se događa s cijenom samih AI modela kada posrednici poput Stripea i Rampa preuzmu kontrolu nad odabirom? Koncentracija moći u rukama nekolicine posrednika mogla bi stvoriti novi oblik ovisnosti, gdje manji pružatelji modela postaju taoci algoritama koji odlučuju hoće li njihov proizvod uopće doći do krajnjeg korisnika.
Obje kompanije klade se da će, kako poduzeća šire svoj AI rad na mnoge modele umjesto da biraju samo jedan, najvrjedniji posao prestati biti izgradnja najpametnijeg modela. Presudno će biti tko odlučuje koji se model bira sljedeći. To je logika slična onoj koja je dominirala telekomunikacijama i cloud tržištem – posrednici često zarađuju više od proizvođača. Pitanje je samo koliko će ta koncentracija posredničke moći koštati krajnje korisnike, koji će na kraju platiti i model i proviziju za odluku o njegovu odabiru.