Profesor Stuart Russell, autor udžbenika iz kojeg su učili gotovo svi današnji direktori vodećih AI kompanija, provodi 80 do 100 sati tjedno pokušavajući promijeniti smjer povijesti. Njegova poruka je jasna i zastrašujuća.
Dok većina svijeta raspravlja o svakodnevnim političkim pitanjima poput imigracije i poreza, mali broj ljudi u Silicijskoj dolini donosi odluke koje bi mogle odrediti hoće li ljudska vrsta nastaviti postojati. Profesor Stuart Russell, jedan od najutjecajnijih glasova u području umjetne inteligencije prema časopisu Time, upozorava da se nalazimo u povijesnom trenutku bez presedana.
Problem gorile kao ogledalo naše budućnosti
Profesor Russell koristi fascinantnu analogiju kako bi objasnio situaciju u kojoj se čovječanstvo nalazi. Prije nekoliko milijuna godina, ljudska linija se odvojila od linije gorila u evoluciji. Danas gorile nemaju nikakav utjecaj na to hoće li nastaviti postojati jer su ljudi daleko inteligentniji od njih. Kada bi ljudi odlučili, mogli bi učiniti gorile izumrlima u roku od nekoliko tjedana i gorile ne bi mogle ništa učiniti po tom pitanju.
Ova analogija pokazuje da je inteligencija zapravo najvažniji faktor za kontrolu planeta Zemlje. Inteligencija predstavlja sposobnost da se ostvari ono što se želi u svijetu. Problem je u tome što čovječanstvo upravo stvara nešto inteligentnije od sebe. To sugerira da bismo mi mogli postati gorile u ovoj novoj dinamici. Russell tvrdi da nema greške u tom razmišljanju i da bi nas to trebalo duboko zabrinuti.
Zašto se utrka ne zaustavlja unatoč rizicima
Kada se postavi logično pitanje zašto se onda ne zaustavi razvoj ako je opasnost toliko očita, odgovor leži u ekonomskoj privlačnosti. Oni koji stvaraju ovu tehnologiju vjeruju da će ona imati ogromnu ekonomsku vrijednost. Moći će je koristiti za zamjenu svih ljudskih radnika na svijetu, za razvoj novih proizvoda, lijekova, oblika zabave i svega što ima ekonomsku vrijednost.
Russell procjenjuje ekonomsku vrijednost umjetne opće inteligencije na 15 kvadrilijuna dolara. Ta suma djeluje kao divovski magnet u budućnosti koji privlači sve prema sebi. Što smo bliže tom cilju, to je privlačna sila jača i veća je vjerojatnost da ćemo zaista stići do njega. Ljudi su spremniji ulagati, a počinjemo vidjeti i nusproizvode tih ulaganja poput ChatGPT-a koji generira određene prihode.
Možda je to jednostavno neodoljiva stvar sama po sebi. Ljudi kao vrsta pridaju toliku važnost svojoj inteligenciji. Kada razmišljamo o vrhuncu ljudskih postignuća, s AGI-jem bismo mogli ići mnogo više od toga. To je vrlo zavodljivo za ljude koji žele stvoriti ovu tehnologiju, ali Russell smatra da se ljudi samo zavaravaju ako misle da će ona prirodno biti kontrolabilna.
Legenda o kralju Midasu i naša sadašnjost
Russell koristi legendu o kralju Midasu kako bi ilustrirao zamku u kojoj se nalazimo. Kralj Midas je legendarni kralj koji je zamolio bogove da mu ispune želju da sve što dodirne postane zlato. Danas mislimo o Midasovom dodiru kao o nečem dobrom, ali što se zapravo dogodilo u legendi? Kada je otišao popiti vode, voda se pretvorila u zlato. Kada je htio pojesti jabuku, jabuka se pretvorila u zlato. Kada je htio utješiti svoju kćer, kćer se pretvorila u zlato. Tako je umro u bijedi i gladi.
Ova priča primjenjuje se na našu trenutnu situaciju na dva načina. Prvo, pohlepa nas tjera da slijedimo tehnologiju koja će nas na kraju progutati i možda ćemo umrijeti u bijedi i gladi. Drugo, priča pokazuje koliko je teško ispravno artikulirati što želimo da budućnost bude. Dugo vremena su se AI sustavi gradili tako da se mogao specificirati cilj, a zatim bi stroj smislio kako postići taj cilj i ostvario bi ga. Znamo kako specificirati cilj u šahu, ali kako specificirati cilj u životu? Što želimo da budućnost izgleda? To je izuzetno teško reći.
Gotovo svaki pokušaj da se to precizno zapiše dovoljno precizno da bi stroj to mogao ostvariti bio bi pogrešan. Ako se stroju daje cilj koji nije usklađen s onim što zaista želimo da budućnost bude, zapravo se postavlja šahovska partija koju ćete izgubiti kada stroj postane dovoljno inteligentan.
Direktori AI kompanija igraju ruski rulet s čovječanstvom
Ono što posebno zabrinjava profesora Russella je činjenica da su direktori vodećih AI kompanija potpuno svjesni rizika, a ipak nastavljaju s razvojem. Dario Amodei iz Anthropica procjenjuje rizik od izumiranja na 25 posto. Elon Musk govori o 30 posto šanse za izumiranje. Sam Altman je rekao da je stvaranje nadljudske inteligencije najveći rizik za ljudsko postojanje.
Russell to opisuje izravno i bez uljepšavanja. Ovi ljudi igraju ruski rulet sa svakim ljudskim bićem na Zemlji bez našeg dopuštenja. Dolaze u naše domove, stavljaju pištolj na glave naše djece, povlače okidač i kažu da će možda svi umrijeti, ali možda će oni postati nevjerojatno bogati. Jesu li nas pitali? Nisu. Zašto im vlada dopušta da to rade? Zato što mašu čekovima od 50 milijardi dolara pred vladama.
U svibnju 2023. svi ti direktori potpisali su izjavu koja je poznata kao izjava o izumiranju. Ona u osnovi kaže da je AGI rizik od izumiranja na istoj razini kao nuklearni rat i pandemije. Ali Russell ne misli da to osjećaju u utrobi. Zamislite da ste jedan od nuklearnih fizičara i da gledate prvu nuklearnu eksploziju. Kako bi se to osjećalo razmišljajući o potencijalnom utjecaju nuklearnog rata na ljudsku rasu? Vjerojatno biste postali pacifist i rekli da je ovo oružje toliko strašno da moramo pronaći način da ga držimo pod kontrolom. Još nismo stigli do te točke s ljudima koji donose ove odluke, a sigurno nismo ni s vladama.
Privatni razgovori koji bi šokirali javnost
Russell je vodio mnoge privatne razgovore s ljudima iz svijeta umjetne inteligencije, bilo da su gradili tehnologiju, istraživali je ili su direktori i osnivači trenutno u AI utrci. Sentimenti koje opća javnost ne bi vjerovala, a koje čuje privatno, su šokantni. Ljudi vrlo blizu ovim tehnološkim kompanijama svjesni su rizika, ali ne osjećaju da se išta može učiniti pa nastavljaju dalje. To djeluje kao svojevrsni paradoks.
To mora biti vrlo teška pozicija. Radite nešto za što znate da ima dobre šanse da dovede do kraja života, uključujući vaš vlastiti život i život vaše obitelji. Osjećaju da ne mogu pobjeći iz ove utrke. Ako bi direktor jedne od tih kompanija rekao da više neće raditi na tome, jednostavno bi bio zamijenjen jer investitori ulažu svoj novac jer žele stvoriti AGI i ubrati koristi od toga.
To je čudna situacija u kojoj svi, barem svi s kojima je Russell razgovarao, razmišljaju na taj način. Nije razgovarao sa Samom Altmanom o ovome, ali čak je i Altman prije nego što je postao direktor OpenAI-ja rekao da je stvaranje nadljudske inteligencije najveći rizik za ljudsko postojanje koji postoji.
Čekaonica za katastrofu
Russell je razgovarao s jednim od direktora vodećih AI kompanija koji vidi dvije mogućnosti. Ili ćemo imati malu katastrofu, recimo u razmjerima Černobila, nuklearnog topljenja u Ukrajini. Ta nuklearna elektrana eksplodirala je 1986. godine i ubila prilično velik broj ljudi izravno, a možda desetke tisuća neizravno kroz radijaciju. Nedavne procjene troškova prelaze bilijun dolara.
To bi probudilo ljude. To bi natjeralo vlade da reguliraju. Ovaj direktor razgovarao je s vladama i one to neće učiniti. Zato on gleda na katastrofu razmjera Černobila kao na najbolji mogući scenarij jer bi tada vlade regulirale i zahtijevale da se AI sustavi grade sigurno. Alternativa je puno gora katastrofa gdje jednostavno izgubimo kontrolu u potpunosti.
To ne bi nužno bila nuklearna katastrofa. Mogao bi to biti AI sustav koji netko zloupotrebljava, na primjer za inženjering pandemije, ili AI sustav koji sam nešto učini, poput rušenja financijskog sustava ili komunikacijskih sustava.
Iluzija kontrole i naivnost javnosti
Ljudi ponekad u komentarima kažu da će jednostavno izvući utikač iz utičnice. Russell to smatra pomalo smiješnim. Čitajući komentare u novinama kad god postoji članak o AI-ju, uvijek će biti ljudi koji kažu da se može jednostavno izvući utikač. Kao da superinteligentni stroj nikada ne bi pomislio na to. Ne treba zaboraviti tko je gledao sve te filmove gdje su pokušali izvući utikač.
Druga stvar koju ljudi kažu je da dokle god nije svjesno, neće nikada ništa učiniti. To je potpuno promašena poanta. Russell ne misli da gorile sjede i govore kako bi sve bilo u redu da ti ljudi nisu bili svjesni. Naravno da ne. Ono što bi učinilo gorile izumrlima su stvari koje ljudi rade, naše ponašanje, naša sposobnost da uspješno djelujemo u svijetu.
Kada se igra šah protiv iPhonea i izgubi, nitko ne misli da gubi zato što je iPhone svjestan. Gubi se jednostavno zato što je iPhone bolji u tom malom svijetu pomicanja figura kako bi dobio ono što želi. Svjesnost nema veze s tim. Kompetencija je ono što nas brine.
Eksplozija inteligencije i točka bez povratka
Sam Altman rekao je da u budućnosti vjeruje da neće trebati mnogo podataka za trening kako bi modeli napredovali sami jer dolazi točka kada su modeli toliko pametni da se mogu sami trenirati i poboljšavati bez potrebe da se u njih ubacuju članci i knjige i pretražuje internet.
To bi trebalo tako funkcionirati. Russell misli da se Altman referira na nešto zbog čega se nekoliko kompanija sada brine da bi se moglo početi događati. AI sustav postaje sposoban samostalno provoditi AI istraživanje. Postoji sustav s određenom sposobnošću, grubo rečeno mogli bismo to nazvati IQ-om iako to zapravo nije IQ. Zamislimo da ima IQ od 150 i koristi ga za AI istraživanje, smišlja bolje algoritme ili bolje dizajne hardvera ili bolje načine korištenja podataka, ažurira se. Sada ima IQ od 170 i sada provodi više AI istraživanja, osim što sada ima IQ od 170 pa je još bolji u provođenju AI istraživanja. U sljedećoj iteraciji ima 250 i tako dalje.
Ovo je ideja koju je jedan od prijatelja Alana Turinga napisao 1965. godine i nazvao je eksplozijom inteligencije. Jedna od stvari koju inteligentni sustav može raditi je AI istraživanje i stoga činiti sebe inteligentnijim. To bi vrlo brzo odletjelo i ostavilo ljude daleko iza.
Altman je rekao da misli da je brzo uzlijetanje mogućije nego što je mislio prije par godina. U svom blogu nazvanom nježna singularnost rekao je da smo možda već prošli horizont događaja uzlijetanja. Horizont događaja je fraza posuđena iz astrofizike i odnosi se na crnu rupu. Ako smo iza horizonta događaja, to znači da smo sada zarobljeni u gravitacijskoj privlačnosti crne rupe ili u ovom slučaju zarobljeni u neizbježnom klizanju prema AGI-ju.
Budućnost bez svrhe
Što je to biti čovjek? To je reproducirati se, slijediti stvari, ići u potragu za teškim stvarima. Ljudi su nekada lovili na otvorenoj savani kako bi postigli ciljeve. Ako bi netko htio popeti se na Everest, posljednje što bi htio je da ga netko podigne helikopterom i stavi na vrh. Ljudi će dobrovoljno slijediti teške stvari, pa iako bi mogli dobiti robota da im izgradi ranč na komadu zemlje, izabrat će to učiniti sami jer je samo slijeđenje nagrađujuće.
To se već donekle vidi u društvu gdje je život postao toliko udoban da su ljudi sada opsjednuti trčanjem maratona i tim ludim izdržljivostima i učenjem kuhanja kompliciranih stvari kada bi ih jednostavno mogli naručiti. Postoji stvarna vrijednost u sposobnosti da se stvari rade i u samom činjenju tih stvari.
Očita opasnost je svijet poput onog iz filma WALL-E gdje svi samo konzumiraju zabavu koja ne zahtijeva mnogo obrazovanja i ne vodi bogatom zadovoljavajućem životu. Russell misli da će dugoročno mnogi ljudi izabrati taj svijet. Također nedostaje nešto u svemu tome, bilo da se konzumira zabava ili radi nešto poput kuhanja ili slikanja jer je zabavno i zanimljivo. Sve to je čisto sebično.
Jedan od razloga zašto radimo je zato što se osjećamo cijenjenima, osjećamo da koristimo drugim ljudima. Russell se sjeća razgovora s jednom ženom u Engleskoj koja pomaže u vođenju hospicijskog pokreta. Ljudi koji rade u hospicijima gdje su pacijenti doslovno tamo da umru uglavnom su volonteri. Ne rade to da bi bili plaćeni, ali smatraju nevjerojatno ispunjavajućim moći provoditi vrijeme s ljudima koji su u posljednjim tjednima ili mjesecima života, dati im društvo i sreću. Russell zapravo misli da će međuljudske uloge biti mnogo važnije u budućnosti.
Nevidljiva prijetnja koja mijenja sve
Kada se razmišlja o humanoidnim robotima i kako su oni protagonisti u ovoj priči o AI-ju, postavlja se zanimljivo pitanje zašto humanoidni oblik. Jedan od razloga je vjerojatno to što su u svim znanstveno-fantastičnim filmovima roboti humanoidni. Čak i u Metropolisu, filmu iz 1920. godine, roboti su humanoidni, u osnovi ljudi prekriveni metalom.
S praktičnog gledišta, humanoidni oblik je užasan dizajn jer padaju. Želite imati višeprstne ruke neke vrste, ne mora biti ruka, ali želite imati barem pola tuceta nastavaka koji mogu hvatati i manipulirati stvarima. I treba neka vrsta lokomocije. Kotači su odlični, osim što ne idu uz stepenice i preko rubnika. Zato ćemo vjerojatno biti zaglavljeni s nogama. Ali četveronožni robot s dvije ruke bio bi mnogo praktičniji.
Argument koji se čuje je da smo izgradili ljudski svijet pa su svi fizički prostori kroz koje se krećemo, bilo da su to tvornice ili naši domovi ili ulice ili drugi javni prostori, svi dizajnirani za točno ovaj fizički oblik. Ali psi se savršeno dobro snalaze u kretanju kroz naše kuće i ulice. Kentaur bi također mogao navigirati, ali može nositi mnogo veće terete jer je četveronožac. Mnogo je stabilniji. Ako treba voziti auto, može presaviti dvije noge i tako dalje.
Russell misli da su argumenti zašto mora biti točno humanoidni oblik neka vrsta naknadnog opravdanja. Više je to u stilu da je tako u filmovima i to je jezivo i cool pa trebaju biti ljudski. To nije dobar inženjerski argument.
Što možemo učiniti
Russell misli da prosječna osoba može razgovarati sa svojim predstavnikom, zastupnikom ili kongresnikom. To možda zvuči otrcano, ali Russell smatra da kreatori politika trebaju čuti od ljudi. Jedini glasovi koje trenutno čuju su tehnološke kompanije i njihovi čekovi od 50 milijardi dolara. Sve ankete koje su provedene pokazuju da većina ljudi, možda 80 posto, ne želi da postoje superinteligentni strojevi, ali ne znaju što učiniti.
Čak ni za Russella koji je u ovom polju desetljećima nije sigurno što učiniti zbog tog divovskog magneta koji vuče sve naprijed i ogromnih suma novca koje se ulažu. Ali siguran je da ako želite imati budućnost i svijet u kojem želite da vaša djeca žive, trebate dati da se vaš glas čuje. Vlade će slušati s političkog gledišta. Stave prst u zrak i pitaju se trebaju li biti na strani čovječanstva ili naših budućih robotskih vladara. Kao političar, to nije teška odluka. Jest kada vam netko kaže da će vam dati 50 milijardi dolara.
Russell smatra da ljudi na tim pozicijama moći trebaju čuti od svojih birača da ovo nije smjer u kojem želimo ići. Nakon što je posvetio karijeru ovoj temi i posebno bio osoba koja je napisala knjigu o umjetnoj inteligenciji, mora shvaćati da živi u povijesnom trenutku. Ima vrlo malo trenutaka u životu kada netko može reći da je ovo jedan od tih trenutaka, raskrižje u povijesti. To mora donekle težiti znajući da je osoba od utjecaja u ovom povijesnom trenutku koja bi teoretski mogla pomoći preusmjeriti tijek povijesti.
Nakon 50 godina mogao bi otići u mirovinu i igrati golf i jedriti i raditi stvari koje uživa. Umjesto toga radi 80 do 100 sati tjedno pokušavajući pomicati stvari u pravom smjeru. Narativ u njegovoj glavi koji ga tjera na to nije samo ispravna stvar nego je potpuno esencijalna. Ne postoji veća motivacija od ove.
