Singapur je prvi svjetski regulator koji traži da banke provjere identitet, ovlasti i ograničenja rizika umjetne inteligencije prije nego što izvrše plaćanje ili trgovinu, a ne nakon što se novac već pomakne.
Središnja banka Singapura (MAS) objavila je 3. srpnja bijelu knjigu pod nazivom „Safeguards for Agentic Finance at Runtime” (SAFR), razvijenu zajedno s osam financijskih i platnih kompanija, uključujući Ant International, Circle, HSBC, JPMorganChase, Manulife, Mastercard, OCBC i Visa. Sustav se temelji na četiri komponente: sloju identiteta koji potvrđuje što agent jest i što smije raditi, repozitoriju pravila koja se na njega odnose, mehanizmu koji provjerava svaku predloženu radnju prema tim pravilima te zapisniku revizije koji bilježi svaku odluku. Svaka radnja završava jednim od četiri ishoda: automatsko izvršenje, izvršenje uz oznaku za pregled, pauza radi ljudskog odobrenja ili potpuna odbijenica.
Ključno je da SAFR, kako je navedeno u dokumentu, ne predstavlja obvezujuće regulatorne smjernice. MAS je u pisanom parlamentarnom odgovoru od 5. kolovoza potvrdio da agentička umjetna inteligencija ulazi u okvir njegovih širih smjernica za upravljanje AI rizicima, koje se dovršavaju na načelnoj osnovi, a ne kroz fiksna tehnička pravila.
Britanija i EU zaostaju, SAD ide preko industrije
Ujedinjeno Kraljevstvo zasad je opreznije. Glavni izvršni direktor Financial Conduct Authorityja Nikhil Rathi izjavio je 24. lipnja da zakonodavstvo „nikada neće držati korak” s umjetnom inteligencijom te da se regulator mora prebaciti na „skrbništvo” i intervenciju na temelju prosudbe. Više od 80 posto britanskih financijskih tvrtki već koristi ili uvodi AI, rekao je Rathi.
Europska unija pozvala je samo na „pojačano upravljanje” naprednim AI modelima u financijama, što je opća izjava bez operativnog okvira kakav nudi Singapur. Hong Kong se oslanja na dobrovoljne okvire upravljanja, bez centraliziranog sustava.
SAD problem rješava sa strane industrije. Tvrtka Fiserv u svibnju je lansirala operativni sustav agentOS koji bankama omogućuje upravljanje AI agentima uz ugrađene sigurnosne prekidače i kontrole uz sudjelovanje čovjeka. Šest banaka pomoglo je u izgradnji, dvije ga već testiraju, a OpenAI i AWS pridružili su se kao suradnici.
Instinkt koji stoji iza te izgradnje zrcali ono što predlaže Singapur: provjeri ovlasti agenta prije nego što djeluje, a ne nakon.
Opseg odluka koje AI agenti mogu generirati počinje nadmašivati ono što timovi za usklađenost mogu ručno pregledati. Pritisak već osjećaju financijski direktori: 47 posto njih navodi preklapanje regulatornih zahtjeva kao glavni operativni izazov, a 46 posto bilježi sve sofisticiranije sheme prijevara.
Ono što MAS-ov prijedlog čini zanimljivim nije tehnologija, nego pitanje odgovornosti. Ako agent djeluje unutar zadanih ograničenja i pogriješi, tko snosi odgovornost? Banka koja je postavila pravila, programer koji je napisao kod ili korisnik koji je odobrio radnju? Regulatorna rupa u ovom području nije tehnička, nego pravna.
Dok se EU i Britanija bave načelima, a američke banke grade vlastite sustave, Singapur je napravio ono što regulatori rijetko rade: ponudio je tehničko rješenje prije nego što se problem dogodi u velikim razmjerima. Pitanje je koliko će drugih jurisdikcija usvojiti sličan model prije nego što prvi veliki incident s agentičkom umjetnom inteligencijom u financijama prisili na hitno djelovanje.
0 komentara
Još nema komentara. Budite prvi.