Anthropic od idućeg tjedna mijenja pravila igre za korisnike Claudea: umjesto da traži dopuštenje za svaku pojedinu radnju, alat će sam procjenjivati što je sigurno, a što nije.
Kompanija je u četvrtak, 22. listopada, objavila da će automatski način rada postati zadana postavka za nove sesije u „većini” svojih aplikacija, i to za pretplatnike paketa Pro, Max i Team. Korisnik više neće morati potvrđivati svaki korak — umjesto njega to čini klasifikator, drugi model umjetne inteligencije koji propušta radnje ocijenjene sigurnima, a blokira one riskantne dok Claude traži drugi put do rješenja. Anthropic nije precizirao koje su aplikacije obuhvaćene promjenom.
Korisnici Claude Codea u tom režimu već rade. Taj programerski asistent može izvršavati naredbe i mijenjati datoteke izravno na stroju developera, a od 14. kolovoza nove sesije na paketima Pro, Max i Team kreću u automatskom načinu. Oni koji su ranije odabrali drugačiju postavku dobivaju najviše jedan poziv da se prebace. Ako je postavka zaključana — primjerice od strane administratora tima — ništa se ne mijenja. Od 7. kolovoza Anthropic više ne odbija trošak filtra od kvote korištenja tih pretplatnika u Claude Codeu, a svaka provjera troši dodatne tokene.
Drugi model odlučuje umjesto developera
Automatski način provlači svaku radnju kroz klasifikator zadužen da zaustavi ono što je nepovratno, razorno ili šalje podatke izvan radnog okruženja — poput koda objavljenog na javnoj stranici. Kad blokira naredbu, Claude obično pronađe sigurniji put ili zatraži zeleno svjetlo. Ako zapne, nakon tri blokade zaredom ili dvadeset u istoj sesiji, vraća se na ručne potvrde.
Anthropic tu odluku pravda vlastitim statistikama: korisnici odobravaju 97 posto zahtjeva za dopuštenje, što prema tvrtki pokazuje da mnogi klikaju refleksno. O produktivnosti navodi i da korisnici automatskog načina kod klijenata Team i Enterprise predaju oko 25 posto više pull requestova, prijedloga izmjena koda koji idu na pregled prije uključivanja.
Paralelno Anthropic širi autonomiju i na ostale proizvode. Claude Duet, primjerice, čita e-poštu i sam preuzima inicijativu u korisnikovo ime. Smjer je jasan: sve manje pitanja, sve više samostalnog djelovanja.
Kako zadržati kontrolu
Postavka se mijenja u svakom trenutku. U terminalu se prekidač načina rada mijenja tipkama Shift+Tab, a u stolnoj aplikaciji padajućim izbornikom. Administratori mogu cijeloj organizaciji nametnuti način rada parametrom defaultMode ili potpuno isključiti automatski režim s disableAutoMode.
Anthropic priznaje da njegov filtar ne uklanja svaki rizik i savjetuje da sami pregledate Claudeove radnje prije svake osjetljive izmjene produkcijske infrastrukture. To je, u prijevodu, priznanje da odgovornost ostaje na korisniku — samo što je sada skrivena iza sloja koji odlučuje umjesto njega.
Ovdje se otvara pitanje koje objava ne postavlja: tko odgovara kad klasifikator pogriješi? Anthropic kaže da blokira „nepovratno” i „razorno”, ali mjerilo tih pojmova nije javno. Kada drugi model preuzme ulogu čovjeka koji potvrđuje, odgovornost se raspršuje između korisnika, kompanije i algoritma koji nitko ne može pozvati na odgovornost. Za pretplatnike koji su dosad kontrolu držali u vlastitim rukama, to je tiho premještanje ovlasti — bez pitanja i bez potvrde.
0 komentara
Još nema komentara. Budite prvi.