Stručnjak za sigurnost AI dao otkaz i upozorio na kockanje životima

Istraživač tvrtke Anthropic podnio je ovaj tjedan ostavku i na društvenoj mreži X objavio kako kompanija „juri ravno prema samousavršavajućoj superinteligenciji i kocka se našim životima”. Riječ je o upozorenju kakvo je industrija umjetne inteligencije već nekoliko puta izgovorila, ali ovoga puta poruka nije ostala na margini. Potpisao ju je, naime, i čovjek koji unutar Anthropica vodi upravo pitanja usklađivanja modela s ljudskim vrijednostima — dakle netko čiji je posao da takve rizike drži pod kontrolom, a ne da ih javno prokazuje.

Ključna riječ u cijeloj priči nije „superinteligencija”. Ključna riječ je IPO. Anthropic se, kako se izvještava, priprema za izlazak na burzu, a upozorenje o katastrofi stiže u fazi kada svaka javna riječ zaposlenika ima cijenu. Kad glasnogovornik za sigurnost odustane od vlastite kuće, tržište to obično ne čita kao filozofsku raspravu — čita to kao signal.

Kad „doomeri” postanu korisni

Industrija umjetne inteligencije godinama koketira s apokaliptičnim narativima. Ta je priča dobro poslužila kao regulatorni štit: ako su rizici toliko egzistencijalni da ih nitko izvana ne može razumjeti, onda je logično da ih kontroliraju upravo oni koji ih stvaraju. Upozorenja o „samousavršavajućoj superinteligenciji” tako su istovremeno bila i prijetnja i marketinški argument.

Problem nastaje kada vlastiti stručnjak za sigurnost više ne želi biti dio te priče. Njegov potpis na javnoj objavi nije tehnički nalaz — to je moralna ocjena. A moralne ocjene ne idu dobro s prospektom za investitore.

Što se ne govori

Pravo pitanje glasi: ako vodeći ljudi za sigurnost u jednoj od najmoćnijih AI kompanija na svijetu tvrde da se kocka ljudskim životima, zašto se onda ta ista kompanija priprema prodati dionice javnosti? Nitko u izvještaju o tom sukobu interesa ne postavlja to pitanje. Utrka za kapitalom i utrka za moći ovdje su isti proces, a upozorenja o riziku postala su dio proizvoda.

Hrvatska u toj utrci ne sudjeluje ni kao igrač ni kao regulator. Nemamo vlastiti model, nemamo vlastitu infrastrukturu, a odluke o tehnologiji koja će oblikovati sljedeće desetljeće donose se u nekoliko adresa u Kaliforniji i Pekingu. Ono što možemo jest inzistirati da se svaka primjena ovakvih sustava u javnom sektoru — od zdravstva do pravosuđa — podvrgne domaćoj stručnoj i parlamentarnoj provjeri, a ne da se uvozi zajedno s gotovim rješenjem.

Upozorenje istraživača koji odlazi nije znanstveni dokaz ni proročanstvo. To je opis stanja u jednoj firmi. Ali kada čovjek zadužen za sigurnost bira ostavku umjesto šutnje, građani imaju pravo znati zašto — i tko će odgovarati ako se njegova bojazan pokaže točnom.