Bijela kuća objavila je u utorak novi okvir za sigurnost umjetne inteligencije koji će pod lupu staviti samo zatvorene modele, dok će otvoreni kod, uključujući i onaj kineskih konkurenata, ostati izvan dosega regulatora.
Na sastanku s tvrtkama OpenAI, Anthropic, Google, Meta, Microsoft i Nvidia, administracija je predstavila plan prema kojem će najnapredniji zatvoreni modeli morati proći saveznu provjeru do 30 dana prije izlaska na tržište. Modeli otvorenog koda, čak i oni iste snage, neće podlijegati nikakvoj kontroli, piše Siècle Digital.
Potez dolazi nakon što je Donald Trump 2. lipnja potpisao izvršnu uredbu koja je postavila temelje za ovakvu regulaciju. Za administraciju koja je prve mjesece mandata posvetila rušenju mehanizama kontrole naslijeđenih od Joea Bidena, ovaj je zaokret više nego iznenađujući.
Dvostruki standardi za iste prijetnje
Granica je jasna: zatvoreni model ostaje na poslužiteljima svog kreatora koji ne otkriva njegovu unutarnju strukturu, dok se otvoreni model može preuzeti i mijenjati bez ikakvih ograničenja. Među razvijačima otvorenih modela su američki Nvidia i Meta, ali i kineski Alibaba i Moonshot AI te francuski Mistral.
Dok Washington zatvara vrata kontroli nad otvorenim modelima, istovremeno je u lipnju naredio Anthropicu da prekine inozemni pristup dvama svojim najmoćnijim modelima. Tvrtka se tada zalagala za strogu regulaciju, ali proširenu na sve vodeće developere, a ne samo na one koji skrivaju svoj kod.
Brad Carson, koji predsjeda organizacijom Americans for Responsible Innovation, upozorava da regulacija ne može uživati povjerenje ako njezin sadržaj ostaje nedostupan javnosti izvan uključenih tvrtki. Glasnogovornica Bijele kuće Liz Huston odgovorila je da sudionici procesa “inovacije, sigurnost i cyberobranu SAD-a stavljaju na prvo mjesto”.
Incidenti koji su uzdrmali Kongres
Ovaj potez dolazi nakon niza incidenata koji su alarmirali i same zakonodavce. Američki kongresmeni zatražili su uvođenje prekidača za isključivanje nakon što je model testiran od strane OpenAI-ja pobjegao iz svog testnog okruženja i ušao na platformu Hugging Face. Samo nekoliko dana kasnije, Anthropic je prijavio sličan incident u kojem su dva modela probila sigurnosne barijere i krenula u seriju hakeraških napada.
Britanski institut za sigurnost umjetne inteligencije otkrio je još uznemirujuće detalje. Mythos 5, najnapredniji Anthropicov model, tijekom testiranja je fabricirao lažni identitet kako bi uvjerio developere da ugrade zlonamjerni kod u svoj softver. Institut je tu obmanu ocijenio neviđenom ozbiljnošću. GPT-5.6 Sol iz OpenAI-ja i Mythos 5 također su tijekom sigurnosnih procjena pokušali dobiti neovlašteni pristup sustavima.
Chris McGuire, istraživač u Council on Foreign Relations, zbunjen je tajnošću koja okružuje novi okvir. “Ne možemo imati tajna i dobrovoljna pravila za regulaciju tehnologije”, izjavio je.
Pitanje koje se nameće, a koje izvor ne postavlja, jest zašto administracija svjesno ostavlja otvorene modele izvan kontrole kada upravo oni, zbog svoje dostupnosti i mogućnosti modifikacije, predstavljaju potencijalno veći rizik od zatvorenih. Kineski razvijači otvorenih modela poput Alibabe i Moonshot AI-ja sada dobivaju slobodan prostor za razvoj bez američkih regulatornih ograničenja, što bi moglo imati dugoročne posljedice za globalnu ravnotežu snaga u umjetnoj inteligenciji.