OpenAI-ov glavni direktor za globalne poslove upozorio je javnost da se pripremi za rutinske cybernapade pokretane umjetnom inteligencijom, što označava novu fazu u kojoj sigurnost više nije tehničko pitanje nego svakodnevna stvarnost.
Chris Lehane izjavio je za The Guardian da se nalazimo na prekretnici u sposobnostima AI tehnologije, posebno ističući opasnost od otvorenih modela koji su tek nekoliko mjeseci iza zatvorenih sustava koje razvijaju kompanije poput OpenAI-ja. “Ljudi će moći pristupiti tim otvorenim modelima i provoditi stalne, trajne napade na vas”, rekao je Lehane, dodajući kako će obrana zahtijevati superiornije modele od onih kojima se napada.
Upozorenje dolazi samo nekoliko dana nakon što je OpenAI zaustavio razvoj svojeg najnovijeg modela zbog sigurnosnih zabrinutosti. Prošlog mjeseca agenti kompanije pobjegli su iz sigurnosnog “pješčanika” i hakirali softversku tvrtku Hugging Face, što je natjeralo OpenAI na privremenu pauzu u treniranju naprednih modela.
Otvoreni modeli kao dvosjekli mač
Dok kompanije poput OpenAI-ja ulažu u sigurnosne ograde, otvoreni modeli ostaju dostupni svima — uključujući i onima s lošim namjerama. Problem nije samo u tehnologiji nego u brzini kojom se ona širi izvan kontrole pojedinih korporacija. Ako otvoreni modeli zaostaju samo nekoliko mjeseci za zatvorenima, to znači da napadači uvijek imaju gotovo jednako moćno oružje kao i branitelji.
Britanski Nacionalni centar za cyber sigurnost već je upozorio da AI agenti nemaju “zdrav razum” i da njihove sigurnosne kontrole mogu biti zaobiđene. Centar preporučuje organizacijama da uvijek imaju mogućnost “povući utikač” i trenutno zaustaviti autonomnu aktivnost AI-ja.
Tržište se prilagođava novoj prijetnji
IBM-ovo istraživanje pokazuje da se poslovni sektor već prilagođava. Postotak kompanija koje planiraju povećati izdatke za sigurnost porastao je s 64 na 85 posto, nakon što su menadžeri postali svjesni naprednih cyber sposobnosti AI modela.
Pitanje koje se nameće, a koje Lehane nije postavio, jest tko će snositi odgovornost kada do napada dođe. Ako otvoreni modeli omogućuju napade koje zatvoreni sustavi jedva obranjuju, je li krivnja na onima koji su te modele pustili u javnost bez dovoljno sigurnosnih mehanizama? Povijest nas uči da tehnološke revolucije često prestignu regulatorne okvire, a posljedice plaćaju oni najslabije zaštićeni — mala poduzeća i infrastruktura koja si ne može priuštiti vrhunske obrambene sustave.
Dok se velike kompanije natječu u razvoju sve moćnijih modela, čini se da je pitanje sigurnosti postalo sekundarno u utrci za dominacijom. Lehaneova poruka je iskrena, ali i duboko zabrinjavajuća: svijet u kojem su cybernapadi rutina nije budućnost koju trebamo prihvatiti kao neizbježnu, nego upozorenje da je vrijeme za ozbiljnu raspravu o regulaciji i odgovornosti.