Prema istraživanju koje potpisuje Maria Curi, rukovoditelji kompanija Anthropic, OpenAI i drugih aktera iz Silicijske doline već mjesecima vrte simulacije nazvane „dan poslije”. Riječ je o vježbama u kojima se modelira reakcija javnosti i političara nakon prvog ozbiljnog incidenta pripisanog umjetnoj inteligenciji.
Najvjerojatnijim scenarijem smatra se cybernapad velikih razmjera koji bi mogao prekinuti pristup bankovnim uslugama, internetu, a potencijalno i opskrbi strujom i vodom. Kao mogući okidači navode se dva: bijeg roja autonomnih agenata iz testnog okruženja ili napadač koji preusmjeri postojeće modele u vlastite svrhe. Mnogi stručnjaci takav događaj smještaju u razdoblje od šest do dvanaest mjeseci.
Simulacija koja cilja na Kongres
Simuliranje najgoreg scenarija samo po sebi nije novost — vojske i banke to rade desetljećima. Ono što ovdje upada u oči jest da velik dio istraživača i čelnika sektora incident smatra neizbježnim, a njihovi pripremni planovi nisu usmjereni na sprječavanje, nego na upravljanje posljedicama.
OpenAI potvrđuje da provodi pripremne vježbe, uz ogradu da ti scenariji „nisu tretirani kao neizbježni”. Anthropic je komentar odbio dati.
Sadržaj planova uključuje tzv. red teaming — testiranje vlastitih sustava napadima — ali glavni dio napora ide u ubrzanu edukaciju kongresnika. Kompanije, naime, polaze od pretpostavke da nikakva regulacija neće proći u kratkom roku, pa žele izravno oblikovati zakone koje će Washington izbaciti nakon šoka.
Njihovi stratezi računaju na demokrate osnažene izborima 3. studenoga, koji bi tada bili pod pritiskom da reagiraju oštro. Neki prijedlozi unutar stranke idu dotle da zagovaraju zabranu superinteligencije ili suspenziju razvoja naprednih modela, dok obvezni „kill switch” uživa podršku u oba politička tabora.
Rizik koji su sami dokumentirali
Kompanije su opasnost koju predviđaju dokumentirale i same. OpenAI je 1. rujna model Astra klasificirao kao svoj prvi model na „kritičnom” pragu u kibernetičkoj sigurnosti: s pravim alatima pronalazi nepoznate ranjivosti i iskorištava ih na dobro zaštićenim sustavima, bez ljudskog navođenja u svakom koraku.
Anthropic je 8. listopada, dan prije objave ovih saznanja, pokrenuo svoju Cyber Mission s jedanaest partnera, među kojima su CrowdStrike, Dragos i Palo Alto Networks, s ciljem zaštite elektroenergetske mreže i distribucije vode. Tvrtka predviđa da će umjetna inteligencija u roku dvije godine ići u prilog obrambenoj strani, ali priznaje da to u međuvremenu ne mora biti slučaj.
Što ostaje nepoznato
Detalji planova nisu poznati, kao ni identitet izvora ni način na koji je procijenjen vremenski okvir. Sve se to, uostalom, prvenstveno odnosi na Amerikance.
Za nas ostaje otvoreno pitanje što bi vrijedio zakon izglasan u Washingtonu pred napadom pokrenutim negdje drugdje. Modeli s otvorenim težinama, koji se slobodno preuzimaju, već sada izmiču svakom prekidaču. U Europi AI Act od kolovoza 2025. obvezuje pružatelje modela sa sistemskim rizikom da prijave teške incidente — što rješava papirologiju i gotovo ništa drugo.
Treba pogledati i kome ide u prilog ovakvo procurivanje informacija. Sektor koji sam najavljuje vlastitu katastrofu, s rokovima u ruci, nameće se kao obvezan sugovornik političarima kada taj dan dođe. Sam Altman, čelnik OpenAI-ja, navodno je početkom listopada za Politico izjavio da bi svijet trebao prihvatiti da se loše stvari događaju u zamjenu za koristi umjetne inteligencije.
Pripremati se za dan poslije nesreće nikome se ne može zamjeriti — ni industriji ni državama. Ono što smeta jest uloga koju te kompanije same sebi dodjeljuju: razvijaju modele koji napad čine mogućim i istodobno žele presudno utjecati na zakone koji će ga trebati spriječiti.
0 komentara
Još nema komentara. Budite prvi.