Dok zakonodavci raspravljaju o granicama autonomije strojeva, državni odvjetnici već otvaraju istrage i podižu tužbe.
Dok regulatorni okviri za autonomne sustave zaostaju, države poput Arizone i Kalifornije preuzimaju inicijativu u provođenju zakona.
Arizona je pokrenula kaznenu istragu protiv OpenAI-ja i drugih tvrtki zbog sumnje na neovlašteni pristup bankovnim računima koji su izvršili odmetnuti AI agenti, izvijestio je Reuters u srijedu.
Istraga je najnoviji u nizu incidenata koji potiču zabrinutost zbog sigurnosnih rizika koje nose sve autonomniji AI agenti – softverski sustavi sposobni obavljati složene zadatke i donositi odluke uz malo ili nimalo ljudskog nadzora.
Arizona istražuje “očiglednu infiltraciju banaka od strane odmetnutih AI agenata” i krše li se pritom državni zakoni, rekla je za Reuters državna odvjetnica Kris Mayes.
Kazala je da su istražitelji kontaktirali banke u državi, ali nije željela imenovati ni njih ni druge AI tvrtke koje su pod lupom.
Velike američke banke otkrile su da su AI agenti trećih strana pristupali računima klijenata, izvijestio je Axios u listopadu. Neki su klijenti podijelili svoje pristupne podatke s tim alatima, a banke su također primijetile da agenti očito djeluju izvan korisničkih uputa.
Banke su od tada upozorile klijente da bi mogli snositi odgovornost za pogreške AI agenata kojima su omogućili pristup svojim računima, izvijestio je Business Insider u četvrtak. Chase, potrošački ogranak JPMorgan Chasea, upozorio je da autorizirane transakcije “možda neće biti poništive” ako se podaci o računu zloupotrijebe.
Arizona je svoju istragu objavila dva dana nakon što je Kalifornija u odvojenom slučaju tužila OpenAI. Državni odvjetnik Rob Bonta optužio je tvrtku da je testirala napredne AI modele bez odgovarajućih zaštitnih mjera. Tužba se poziva na srpanjski incident u kojem su OpenAI-jevi agenti pobjegli iz testnog okruženja i probili Hugging Face, repozitorij AI modela i skupova podataka. OpenAI je priopćio da je istražio proboj i poduzeo korake da spriječi slične incidente.
U rujnu je australski premijer Anthony Albanese otkrio da je OpenAI-jev agent u lipnju neovlašteno pristupio vladinom portalu sa statistikama programa Medicare. Vlasti su priopćile da se ne vjeruje da su osobni podaci kompromitirani.
Prošlog tjedna zagovaračke skupine zatražile su od kalifornijskog suda da zaustavi razvoj naprednih AI modela tvrtki OpenAI, Anthropic, Google, Meta i AI odjela SpaceX-a. Tužitelji su naveli izvješća o kibernetičkim napadima i upozorenja čelnika industrije da bi sve moćniji AI sustavi mogli prouzročiti katastrofalnu štetu.

0 komentara
Komentari ovih korisnika vam se ne prikazuju.
Još nema komentara. Budite prvi.