Vršitelj dužnosti ravnatelja najviše državne agencije za kibernetičku obranu prošlog je ljeta učitao više osjetljivih državnih dokumenata u javnu verziju ChatGPT-a, što je pokrenulo automatizirana sigurnosna upozorenja i procjenu štete Ministarstva domovinske sigurnosti, prema istrazi Politica.
Madhu Gottumukkala, privremeni čelnik Agencije za kibernetičku sigurnost i sigurnost infrastrukture, koristio je posebnu iznimku koju je zatražio kako bi pristupio alatu umjetne inteligencije, koji je bio blokiran za ostale zaposlenike Ministarstva domovinske sigurnosti, kako bi unio ugovorne dokumente označene „Samo za službenu uporabu“. Materijal, iako nije klasificiran, smatra se osjetljivim i nije namijenjen javnoj objavi.
Četiri dužnosnika Ministarstva domovinske sigurnosti upoznata s incidentom rekla su da su kibernetički senzori u Agenciji za kibernetičku sigurnost i sigurnost infrastrukture označili učitavanja početkom kolovoza, što je potaknulo internu reviziju koju je vodilo Ministarstvo domovinske sigurnosti radi procjene moguće štete.
Ostaje nejasno do kakvih je zaključaka revizija došla. Incident je značajan jer se javna učitavanja u ChatGPT dijele s razvojnim timom OpenAI-ja, što potencijalno izlaže državne informacije širokoj korisničkoj bazi platforme. Nasuprot tome, odobreni alati umjetne inteligencije Ministarstva domovinske sigurnosti konfigurirani su tako da spriječe izlazak podataka iz saveznih mreža.
U izjavi je ravnateljica za odnose s javnošću Agencije za kibernetičku sigurnost i sigurnost infrastrukture Marci McCarthy rekla da je Gottumukkali „odobreno korištenje ChatGPT-a uz uspostavljene kontrole Ministarstva domovinske sigurnosti“ te da je njegovo korištenje bilo „kratkotrajno i ograničeno“.
Gottumukkala vodi Agenciju za kibernetičku sigurnost i sigurnost infrastrukture u svojstvu vršitelja dužnosti od svibnja, dok kandidat za stalnog ravnatelja, Sean Plankey, još nije potvrđen. Incident s ChatGPT-om najnoviji je u nizu sigurnosnih i vodstvenih kontroverzi koje okružuju Gottumukkalin kratki mandat. Prošlog srpnja navodno je pao na protuobavještajnom poligrafskom testu na koji je bio potaknut kako bi dobio pristup iznimno osjetljivim obavještajnim podacima. Tijekom svjedočenja pred Kongresom prošlog tjedna Gottumukkala je odbio priznati neuspjeli test, rekavši zastupniku Bennieju Thompsonu iz Mississippija da ne „prihvaća pretpostavku takve karakterizacije“.
Sigurnosni propust dolazi u trenutku kada administracija predsjednika Donalda Trumpa agresivno promiče usvajanje umjetne inteligencije u cijeloj saveznoj vladi. Prošlog mjeseca Trump je potpisao izvršnu uredbu radi ograničavanja regulacije umjetne inteligencije na razini saveznih država, upozorivši da bi rascjepkani pravni krajolik mogao ometati konkurentnost Sjedinjenih Država u odnosu na Kinu.
U međuvremenu, Pentagon je predstavio strategiju „umjetna inteligencija na prvom mjestu“ kako bi ubrzao vojnu uporabu umjetne inteligencije, pri čemu je ministar rata Pete Hegseth najavio planove za integraciju vodećih modela umjetne inteligencije, uključujući Grok Elona Muska, u obrambene mreže.
Od muhe prave slona. Čovjeku je to u opisu posla.