Studija iz Singapura upozorava da umjetna inteligencija kao društvo najviše šteti upravo onima kojima je najpotrebnija — ali rješenje koje predlaže ne dira korijen problema.
Istraživači sa Singapore Management University i Duke-NUS Medical School objavili su u časopisu Nature Human Behaviour rad pod naslovom „How AI companions could deepen social inequality” u kojem tvrde da pitanje nije je li AI društvo dobro ili loše, nego kome koristi, kome šteti i zašto su ishodi tako neravnomjerno raspoređeni.
Njihov okvir razlikuje tri razine: korisnika, dizajn platforme i upravljanje. Ljudi s čvrstim obiteljskim i društvenim vezama koriste AI partnere kao dodatak — za uvježbavanje teških razgovora ili upravljanje stresom. Usamljeni, društveno izolirani i oni bez pristupa mentalnom zdravstvu sve se više oslanjaju na stroj kao zamjenu za ljudski kontakt. Autori taj proces nazivaju „social deskilling” — postupnim slabljenjem međuljudskih vještina zbog manjka prilika za vježbanje stvarnog razgovora.
Model švicarskog sira i rupe u zaštiti
Kako bi objasnili kako nastaje šteta, istraživači su posudili model švicarskog sira iz sigurnosnog inženjerstva. Šteta ne dolazi od jednog čimbenika, nego kad istovremeno zakaže nekoliko zaštitnih slojeva: AI pismenost korisnika, mreža društvene podrške, dizajn platforme i regulatorni nadzor. Svaki sloj ima rupe. Kad se rupe poravnaju, ranjivi korisnici ostaju izloženi.
Od četiri sloja, autori kao najveći problem izdvajaju upravljanje. AI partneri danas se u mnogim zemljama tretiraju kao potrošačke aplikacije, a ne kao tehnologija s mogućim psihosocijalnim i mentalnozdravstvenim učincima. Predlažu da ih se prizna kao zdravstveno relevantne tehnologije, što bi otvorilo vrata obveznom dizajnu primjerenom dobi, jasnom otkrivanju da korisnik razgovara sa strojem, ograničenjima emocionalno manipulativnih značajki, strožim pravilima o privatnosti podataka i obveznim protokolima za krizne situacije kada korisnik spomene samoozljeđivanje.
Voditelj istraživanja Zhang Qiyang poručuje da bez namjernih zaštitnih mjera AI partneri riskiraju pojačati postojeće društvene nejednakosti, ostavljajući najizloženijima upravo one kojima je ljudska podrška najpotrebnija. Njegov kolega Liu Nan dodaje da mladi ljudi mogu biti najmanje opremljeni za prepoznavanje ograničenja i komercijalnih interesa koji stoje iza tih sustava.
Zašto Singapur, i zašto nas to ne smije uspavati
Rad posebno izdvaja Singapur: napredna digitalna infrastruktura i jaka regulatorna tradicija daju mu prednost da predvodi u razvoju odgovornih zaštita. Ali iste karakteristike — visoka penetracija pametnih telefona, široka upotreba AI-a, staranje stanovništva, sve više starijih osoba koje žive same i rastuća zabrinutost za mentalno zdravlje mladih — stvaraju uvjete u kojima se AI partneri usvajaju brzo, osobito među ranjivima.
Studija nudi i popis mjera: priznati AI partnere kao tehnologiju s psihosocijalnim implikacijama, uvesti slojevito upravljanje koje spaja regulaciju s jačanjem AI pismenosti, poticati odgovoran dizajn platformi i podupirati stvarne društvene veze. Zhang zaključuje da će budući utjecaj AI partnera manje ovisiti o samoj tehnologiji, a više o tome kako društvo odluči da je dizajnira, njome upravlja i koristi se njome.
Pitanje koje istraživači nisu postavili
Nijedan od četiri sloja u modelu švicarskog sira ne uključuje pitanje vlasništva i poslovnog modela. A to je ključno: platforma koja zarađuje na vremenu provedenom u razgovoru ima izravan interes da korisnik ostane u aplikaciji, a ne da izađe i potraži ljudsko društvo. Dokle god je tako, savjeti o „odgovornom dizajnu” ostaju dobrovoljni, a dobrovoljne mjere u industriji koja se bori za pažnju korisnika rijetko prežive prvi kvartal.
Zato bi domaća rasprava trebala krenuti od onoga što Singapur ima, a mi nemamo: jasnu nacionalnu politiku prema AI tehnologijama u mentalnom zdravstvu, domaću stručnu provjeru tih alata i obvezu da se svaka veća odluka o njihovu uvođenju u javne sustave — škole, zdravstvo, socijalnu skrb — potvrdi na referendumu. Tehnologija koja se predstavlja kao rješenje za usamljenost ne smije postati način da se ta usamljenost naplati, a da nitko ne odgovara za posljedice.