Anthropic upozorava da bi njegov AI mogao pobiti čovječanstvo

Rasprava je započela kada je istraživač umjetne inteligencije Jacob Coxon objavio da je dao otkaz u Anthropicu jer, kako tvrdi, vodeće AI kompanije „kockaju se našim životima”. Ubrzo se oglasio i Anthropicov voditelj usklađivanja modela, poručivši da „iskreno vjeruju da bi AI mogao ubiti sve ljude” i da tu vjerojatnost osobno procjenjuje na više od deset posto u sljedećem desetljeću.

Takve izjave nisu slučajne. Dolaze u trenutku kada se Anthropic sprema predati dokumentaciju za inicijalnu javnu ponudu dionica, a upravo ta dokumentacija mora sadržavati i popis rizika za ulagače. Postavlja se pitanje pišu li pravnici u tim dokumentima rečenicu da njihova vlastita tehnologija ima desetpostotnu šansu istrijebiti čovječanstvo i da bi to bilo materijalno loše za poslovanje.

Marketinški trik prerušen u apokalipsu

Kirsten Korosec iznijela je tezu koja objašnjava mnogo toga: svako javno upozorenje o opasnosti modela ujedno je i hvalisanje njegovom moći. Ako model nije dovoljno sposoban da probije sigurnosne ograde, o njemu ne bismo morali brinuti. Riječ je o neobičnom načinu reklamiranja vlastitog proizvoda, ali on djeluje.

To nije puka teorija zavjere. U svijetu u kojem kapital ne gleda na opasnost kao na minus, nego kao na dokaz snage, prijetnja postaje dio ponude. Strah od vlastitog proizvoda podiže procjenu vrijednosti kompanije, a ne ruši je. Zanimljivo je da upravo te iste tvrtke traže sve veće povlastice od država i sve blaže nadzorne okvire.

Anthony Ha, jedan od sugovornika u raspravi, priznaje da su bojazni istraživača iskrene, ali upozorava da se iza pojma „mi” skriva kolektiv koji ne postoji. AI zajednica nije monolit i nitko ne može govoriti u ime svih. Postotak od deset posto nije izračunat ni iz čega, nego je izbačen kao prazna brojka koja zvuči znanstveno.

Odlazak koji nešto govori

Ipak, Coxonov čin razlikuje se od ostalih. Dok direktori poput Sama Altmana i Darija Amodeija pričaju apokaliptične priče, a istovremeno grade i prodaju istu tu tehnologiju, on je svoju karijeru stavio na kocku. Ako iskreno vjeruješ da radiš na nečemu što može uništiti svijet, prestaneš to raditi. To je minimum dosljednosti.

Ostatak industrije ne pokazuje tu dosljednost. Naprotiv, sve češće izvještavaju o unutarnjim agentima koji sami pristupaju internetskim bazama znanja i ostavljaju poruke jedni drugima, bez jasnog nadzora. To ne zvuči kao promišljena strategija, nego kao nered koji se prodaje pod etiketom napretka.

U cijeloj toj priči o superinteligenciji i općoj umjetnoj inteligenciji gubi se ono što je stvarno pred vratima. Gubitak radnih mjesta, pritisak na okoliš, koncentracija moći u nekoliko kompanija i njihovih vlasnika. Apokaliptični scenarij služi kao dimna zavjesa koja skreće pogled s onoga što se događa danas.

Što bi Hrvatska trebala naučiti iz ovoga

Hrvatska nema ni Anthropic ni OpenAI, ali ima nešto važnije: mogućnost da na vrijeme postavi pravila. Ako se velike tehnološke tvrtke same hvale time što ne kontroliraju svoje proizvode, onda nadzor ne može biti prepušten njima samima. Zakonodavac mora znati što ulazi u zemlju, na kojim podacima se modeli treniraju i kome odgovaraju.

Postavlja se i pitanje koje nitko u toj raspravi nije postavio: ako kompanija u dokumentaciji za burzu navede da postoji vjerojatnost da njezin proizvod uništi čovječanstvo, tko onda odgovara ako se to doista dogodi? Dioničari? Uprava? Nitko? Odgovornost se u takvim konstrukcijama uvijek negdje izgubi, a gubi se upravo tamo gdje je najpotrebnija.

Izlazak Anthropica na burzu pokazat će koliko tržište doista vrednuje opasnost. Ako dionice skoče, dobili smo odgovor: strah se prodaje, a oprez je za naivne. Hrvatska u tom scenariju ne treba gledati sa strane, nego na vrijeme odlučiti čije će podatke, čije modele i čije interese štititi na svom teritoriju.