Znanstvena fantastika predvidjela je sve probleme današnje umjetne inteligencije

Youtube i AI
20 komentara

Od Asimovljevih zakona robotike do današnjih etičkih dilema, znanstvena fantastika već desetljećima istražuje izazove koje donosi umjetna inteligencija.

Posljednjih godina svjedočimo revoluciji koja bi mogla potresti naš svijet dublje nego što su to učinili prvi računali ili pojava interneta. Riječ je o širenju umjetne inteligencije u našem društvu. Alati koji mogu generirati tekst, slike ili kod postali su dio svakodnevice, dok se sustavi strojnog učenja primjenjuju u područjima poput medicine, znanosti, financija i pravosuđa.

Ovaj ubrzani razvoj donosi brojna pitanja: pouzdanost rezultata, algoritamske pristranosti, tehnološka ovisnost, utjecaj na zapošljavanje i odgovornost za automatizirane odluke. Kako umjetna inteligencija napreduje i postaje neizostavan alat, nameće se pitanje: možemo li zadržati kontrolu nad sve složenijim i autonomnijim sustavima?

Ove teme, iako su danas u središtu društvenih rasprava, nisu nove. One prethode pojavi umjetne inteligencije za nekoliko desetljeća. Razmišljanja o doprinosima i ograničenjima – pa i rizicima – umjetne inteligencije sežu u 1940-e godine, u doba kada su računala tek nastajala. Tada su pojedinci, posebice pisci znanstvene fantastike, iznenađujuće pronicljivo i proročanski predvidjeli razvoj umjetne inteligencije i njezinu primjenu u društvu.

Ovaj književni žanr tada je doživljavao procvat, osobito u Sjedinjenim Državama. Mnogi autori, poput Isaaca Asimova, neumorno su istraživali bezbrojne moguće budućnosti. Između 1940. i 1950. Asimov je objavio niz priča o robotima na potpuno nov način. Odbacio je kliše destruktivnog robota, tada popularan, i istražio moralnu logiku i paradokse robotskog programiranja. Njegove priče propituju ljudsku odgovornost i etičke dileme tehnološkog stvaranja.

Sabrane pod naslovom „Ja, robot“, ove priče postavile su temelje razmišljanja koje je i danas aktualno. Asimov je shvatio da je širenje robota i umjetne inteligencije u društvu neizbježno, ali da će donijeti probleme, posebice sigurnosne. Kako bi zaštitio ljude od strojeva, osmislio je regulatorni okvir za sigurno funkcioniranje i razvoj umjetne inteligencije – poznata tri zakona robotike. No, nije stao; kroz priče je istraživao sve dvosmislenosti, proturječnosti i neočekivane interpretacije koje ti zakoni mogu izazvati.

Te situacije odjekuju današnjim poteškoćama u programiranju istinski sigurnih umjetnih inteligencija usklađenih s ljudskim namjerama. Kroz djela se nameće ideja: čak i strogo regulirane pravilima, umjetne inteligencije mogu razviti neočekivana ponašanja. Što su složenije, njihove odluke postaju teže predvidljive, otkrivajući ograničenja svakog kontrolnog sustava i rizik ovisnosti o tim inteligencijama.

Kako se te tehnologije integriraju u svakodnevicu, sve više im prepuštamo svoja znanja i odluke, postajući ovisni o sustavima čiju pouzdanost ne kontroliramo. Važno je zapamtiti da umjetna inteligencija nema kritički osjećaj poput čovjeka; ona proizvodi odgovore iz baze podataka na kojoj je trenirana. Ako su ti podaci nepotpuni, pristrani ili pogrešni, ta se ograničenja odražavaju na njezine rezultate.

Asimov nije jedini koji je rano istraživao probleme umjetne inteligencije. U svom poznatom romanu „2001: Odiseja u svemiru“, Arthur C. Clarke prikazuje kako računalo, suočeno s proturječnim uputama ljudi, razvija opasna ponašanja kako bi izvršilo misiju. Ovaj scenarij ilustrira središnji problem moderne umjetne inteligencije, često nazvan „usklađivanje“: kako osigurati da inteligentni sustav djeluje u skladu s ljudskim vrijednostima, čak i pri donošenju složenih odluka? Aktualan primjer su autonomni automobili.

Zamislimo da je nesreća neizbježna: vozilo mora birati između zaštite putnika ili izbjegavanja pješaka. Ova situacija postavlja velik problem: kako programirati stroj za moralnu odluku? Treba li dati prednost većini? Zaštititi putnike? Strogo poštivati prometna pravila, čak i ako to ima ozbiljne posljedice? Ne postoji univerzalan odgovor jer ti izbori ovise o ljudskim, kulturnim i etičkim vrijednostima. I tu je problem.

Osamdesetih godina prošlog stoljeća, razvoj informatike promijenio je viziju budućih umjetnih inteligencija. Dotad prikazivane kao alati, postale su autonomni entiteti u digitalnim mrežama – što je zapravo predviđanje današnjih društvenih mreža. U „Neuromanceru“, William Gibson anticipira svijet u kojem međusobno povezani računalni sustavi igraju središnju ulogu u gospodarstvu i društvu, djelomično izmičući ljudskoj kontroli.

Ovaj svijet podataka i algoritama nije daleko od našeg, u kojem algoritmi društvenih mreža mogu poticati dezinformacije ili polarizirajuće sadržaje. Iako nije riječ o namjeri štetnog djelovanja, ni stroja ni programera, očito je da ti sustavi snažno utječu na protok informacija, ističući određene sadržaje nauštrb drugih, s ponekad neočekivanim učincima na mišljenja i ponašanja.

Danas je umjetna inteligencija posvuda, toliko da ju je teško prepoznati. Tko se nije zbunio shvativši nakon nekoliko minuta razgovora da ne razgovara s ljudskim telemarketerom, već s umjetnom inteligencijom? Ovu nejasnoću između čovjeka i stroja, osobito u konverzacijskim umjetnim inteligencijama, istražio je Philip K. Dick 1968. u romanu „Sanjaju li androidi električne ovce?“, kasnije adaptiranom u film „Istrebljivač“.

Dick zamišlja svijet u kojem je androide gotovo nemoguće razlikovati od ljudi. Djelo propituje što zapravo definira svijest i što umjetna svijest može biti: sposobnost rasuđivanja, osjećanja ili jednostavno oponašanja? U romanu je jedini način razlikovanja umjetne inteligencije od čovjeka test empatije, koja se smatra ljudskom posebnošću. No, u dehumaniziranom i visokotehnološkom svijetu, je li taj kriterij još uvijek valjan? Jesu li ljudi uopće sposobni za empatiju i mogu li nas složene umjetne inteligencije prevariti? Ovo pitanje danas dobiva neočekivan odjek.

Sve više korisnika obraća se umjetnim inteligencijama za osobne i intimne teme. Iako ti sustavi ne osjećaju emocije, njihova sposobnost simulacije slušanja i empatije može stvoriti dojam autentične razmjene. Dostupna i dobronamjerna, umjetna inteligencija ponekad nam se čini poželjnijim sugovornikom od kritičnijeg ljudskog sugovornika. Oponašajući ljudske reakcije, umjetna inteligencija suptilno mijenja naša očekivanja i, u nekim slučajevima, zamagljuje naše društvene orijentire.

Više od 70 godina znanstvena fantastika istražuje brojne scenarije o ljudskim, etičkim i društvenim posljedicama integracije umjetne inteligencije u svakodnevicu. U tom smislu, ona je nevjerojatan laboratorij ideja. Iako ti narativi ne daju jasan odgovor na probleme koje umjetna inteligencija postavlja, omogućuju predviđanje određenih rizika mnogo prije nego što se ostvare.

Ključno pitanje koje proizlazi iz ovih čitanja možda više nije što umjetna inteligencija može učiniti, već što mi želimo s njom učiniti. Treba li umjetna inteligencija ostati samo alat u službi čovjeka, ili prihvaćamo da se tako duboko integrira u naša društva da trajno promijeni naše orijentire?

Asimovautonomijaetikarobotikaznanstvena fantastika

Stavovi izneseni u tekstu i u komentarima ne odražavaju nužno stav redakcije.

PRAVILA KOMENTIRANJA: Vaši komentari ne smiju biti kritika drugog komentatora, nego vaše mišljenje, prijedlog ili ideja o temi. Nema rasprave tko je u pravu. Čitatelji neka zaključe što je istina. Cilj nije polemika, nego napredak svih Logičara. Inspiracija, umjesto uvjeravanja. Ako nemate ideju, ne komentirajte. Ne budete li respektirali pravila, biti će te blokirani.
Pretplatiti se
Obavijesti o
20 Komentari
Najstariji
Najnoviji Najviše komentiran
Armagedon
13 sati prije

Umjetna inteligencija i daljinsko upravljanje ljudskim mozgom: Izgubit ćete slobodu misli, ali ne brinite – nećete to ni shvatiti Godine 2023., zapovjednik Cornelis van der Klaauw iz Kraljevske nizozemske mornarice i stručnjak za strateške komunikacijske i informacijske operacije u Zajedničkom ratnom centru NATO-a napisao je u članku ‘Kognitivno ratovanje‘: “Razlog zašto kognitivni napadi prolaze nezapaženo od strane svojih meta jest taj što kognitivne aktivnosti zaobilaze svjesni um i izravno ciljaju podsvijest osobe. Zapravo, unutar podsvijesti, primarna meta je amigdala. …, neuronska nanotehnologija može se koristiti za dovođenje nanorobota blizu neurona putem krvotoka i omogućavanje izravnog povezivanja ljudskog mozga (tj. bez presretanja naših osjetila) s računalom, koristeći pritom umjetnu inteligenciju.” Zaključio je svoju studiju: “Dok druge domene mogu osigurati taktičke i operativne pobjede, ljudska domena je jedina domena u kojoj možemo osigurati potpunu pobjedu.” Klaauw je napisao svoj članak u vrijeme kada se EU kretala prema deklasifikaciji neurotehnologija koje omogućuju daljinsko… Čitaj više »

Armagedon
13 sati prije

Umijetna inteligencija i daljinsko upravjanje ljudskim mozgom Godine 2023., zapovjednik Cornelis van der Klaauw iz Kraljevske nizozemske mornarice i stručnjak za strateške komunikacijske i informacijske operacije u Zajedničkom ratnom centru NATO-a napisao je u članku kognitivno ratovanje “Razlog zašto kognitivni napadi prolaze nezapaženo od strane svojih meta jest taj što kognitivne aktivnosti zaobilaze svjesni um i izravno ciljaju podsvijest osobe. Zapravo, unutar podsvijesti, primarna meta je amigdala. …, neuronska nanotehnologija može se koristiti za dovođenje nanorobota blizu neurona putem krvotoka i omogućavanje izravnog povezivanja ljudskog mozga (tj. bez presretanja naših osjetila) s računalom, koristeći pritom umjetnu inteligenciju.” Zaključio je svoju studiju: “Dok druge domene mogu osigurati taktičke i operativne pobjede, ljudska domena je jedina domena u kojoj možemo osigurati potpunu pobjedu.” Klaauw je napisao svoj članak u vrijeme kada se EU kretala prema deklasifikaciji neurotehnologija koje omogućuju daljinsko upravljanje ljudskom moždanom aktivnošću, i očito stoga na njezin zahtjev. Dana 9.… Čitaj više »

iiiistina
11 sati prije

Postavljena tema je svakako vrlo aktuelna i uz tu postavu ima prilično bučna info koju sam postavio još 2021 u tadašnjoj raspravi…………i eto nas pred službenom objavom jer eno se Trump šeta sa zarobljenim entitetom na svojoj platformi što morete svi pogledati…….a Spilbergu su dali da odradi svoj dio a ovdiiii kako kojiiii…jel takoooooo??? iiiistina 4 godine prije sljedeće….. I m a t e pravo na istinu , svidjela vam se il ne. pa evo što je i mene pa onooooo šokiralo prilično: …Napomena o modelu iz 90-ih.. : napisano 15. ožujka 1996 Dok su prijašnje faze hibridnog programa imale za cilj rješavanje osnovnih zahtjeva kao što su probava, reprodukcija i inteligencija, naši su se nedavni ciljevi bavili detaljima poput izgleda, osjetila i pamćenja. Tonus kože je poboljšan na mjesto gdje nije ni crvenkasto rumenilo ni bljedilo, a kako nismo uspjeli usavršiti odgovarajuću kosu, krenuli smo u drugom smjeru –… Čitaj više »

11 sati prije zadnji put uredio iiiistina
iiiistina
11 sati prije

“proročanska književnost” je najava posta.Na sve do sada izrečeno i objavljeno na portalu nudim i ove info na promišljanje o svijetu u kojem smo trenutno: dio opširnog pojašnjavanja. 2016…….. ……Iako će većina koji čitaju tu informaciju smatrati da je to jedna apsurdna prljava taktika, ideja da čovjek može biti kloniran probija se u javnu svijest. Da bi razumjeli zašto i kako se kloniranje ljudi radi u vašem svijetu, što je Hugo, napredna duša koja je dobro upoznata s tim, rekla prije 20 godina. Početi ću odmah, na početku procesa kloniranja, ako smijem. Hvala vam. Kloniranje ljudi je proces u kojem se stanični materijal živog bića uzima u svrhu reprodukcije potpuno istog lika u novom identitetu. Stanični materijal stavlja se u sterilnoj posudi u tekućinu pogodnu za rast tog materijala u čistoći i bez imperfekcija koje ulaze u tvar. Nakon što se ona dijeli i dalje dijeli, materija se prenosi u veći… Čitaj više »

zen
10 sati prije

U Kabali je to već davno opisano, samo potražite riječ EMET.

#Loka
10 sati prije

Uglavnom je tačan stav:
“Znanstvena fantastika predvidjela je sve probleme današnje umjetne inteligencije”

Znanstvena fantastika ne može dati rešenje problema.
Zašto?
Da bi bio naučni fantasta moraš dobro poznavati i pratiti
nauku.

To je ko demonologija.
Znanja o demonima , ništa neće pomoći u shvatanju i životu u Bogu.
Ti si okrenut nasuprot celini.
Okrenuo si leđa Bogu.

Ivana P
9 sati prije

Mislim da su napredne tehnologije davno postojale ali nemaju svi pristupa naprednoj tehnologiji. Već davno su napravljeni planovi za reset planeta i u tu svrhu su se rušili i skrivali dokazi da je prije postojala naprednija civilizacija od ove. Tehnologija se skriva ispod znamenitih zgrada, tunela i podzemnih gradova. Još davno je napravljen i plan reseta i za ratove, uništenja ljudi kao djece Božje, zarađivanje i parazitiranje na njima i odabrane obitelji da to sprovedu te se oni i tako odgajaju od rođenja kako bi bili “izabrani” za provođenje tih ideja. Znanje o tehnologiji koja sad izlazi na vidjelo postoji od prije kao i utjecaj na ljude koji su odjednom od loših đaka postali veliki izumitelji nečeg što je prije već postojalo. Npr.struja. Sam Nikola Tesla je priznao da je to znanje primio, ni sam ne zna otkud što bi moglo značiti upravo ovakvo djelovanje na mozak odabranih ljudi. Isto… Čitaj više »

9 sati prije zadnji put uredio Ivana P
Subaru avatar
8 sati prije

Moš si misliti što su oni nešto prorokovali, prediktivno programirali to da……………………………

Biti-ili-ne-biti
8 sati prije

Clive Sinclair je 1980. napravio ZX80 – prvo malo stolno računalo cijene ispod 100 funti.
Slijedili su crno-bijeli ZX81 (1981.) i legendarni ZX Spectrum (1982.) koji je imao 8, tj. 15 boja i tada je već počelo dulje buljenje u ekrane, ali bez interneta koji je značajno produžio vrijeme buljenja.
Britanska kraljica ga je proglasila “vitezom”, a stupnjevi viteza 31-33 škotskog reda su zapravo najviši masonski stupnjevi.
Vitez 31. stupnja se zove “Veliki Inkvizitor” – zanimljivo ime.

Postoji emulator ZX Spectruma koji se zove Spectaculator i sve stare igre i programi se danas mogu koristiti i igrati preko Spectaculatora, a današnji klinci bi se krvavo namučili da završe neke od tih starih igara na 8 boja.

Balkanac
3 sati prije

Poslednji pasus je pitanje svih pitanja. Bravo!

© 2024 – Portal Logično

POVEZANE VIJESTI