Kombinacija umjetne inteligencije i kreiranja politika ponekad može imati nepredviđene posljedice, što se nedavno moglo vidjeti na Aljasci.
U neobičnom spletu događaja, zakonodavci Aljaske navodno su koristili netočne citate generirane umjetnom inteligencijom kako bi opravdali predloženu politiku zabrane mobilnih telefona u školama. Kako izvještava The Alaska Beacon, Odjel za obrazovanje i rani razvoj Aljaske (DEED) predstavio je nacrt politike koji je sadržavao reference na akademske studije koje jednostavno nisu postojale.
Situacija je nastala kada je povjerenica za obrazovanje Aljaske, Deena Bishop, koristila generativnu umjetnu inteligenciju za izradu politike o mobilnim telefonima. Dokument koji je proizvela UI uključivao je navodne znanstvene reference koje nisu bile ni provjerene ni točne, a dokument nije otkrivao korištenje UI u svojoj pripremi. Neki od sadržaja generiranih UI-jem došli su do Državnog odbora za obrazovanje i rani razvoj Aljaske prije nego što su mogli biti pregledani, potencijalno utječući na rasprave odbora.
Povjerenica Bishop kasnije je tvrdila da je UI korištena samo za “stvaranje citata” za početni nacrt i ustvrdila da je ispravila pogreške prije sastanka slanjem ažuriranih citata članovima odbora. Međutim, UI “halucinacije” – izmišljene informacije generirane kada UI pokušava stvoriti uvjerljiv ali neprovjereni sadržaj – još uvijek su bile prisutne u konačnom dokumentu o kojem je odbor glasao.
Konačna rezolucija, objavljena na DEED-ovoj web stranici, nalaže odjelu uspostavljanje modela politike za ograničenja mobilnih telefona u školama. Nažalost, dokument je uključivao šest citata, od kojih su četiri naizgled bila iz uglednih znanstvenih časopisa. Međutim, reference su bile potpuno izmišljene, s URL-ovima koji su vodili na nepovezani sadržaj. Incident pokazuje rizike korištenja podataka generiranih UI-jem bez odgovarajuće ljudske provjere, posebno pri donošenju političkih odluka.
Slučaj Aljaske nije jedinstven. UI halucinacije sve su češće u različitim profesionalnim sektorima. Na primjer, neki pravni stručnjaci suočili su se s posljedicama korištenja izmišljenih sudskih citata generiranih UI-jem na sudu. Slično tome, akademski radovi stvoreni pomoću UI-ja uključivali su iskrivljene podatke i lažne izvore, predstavljajući ozbiljne probleme vjerodostojnosti. Kada se ne kontroliraju, generativni UI algoritmi, koji su namijenjeni proizvodnji sadržaja na temelju obrazaca umjesto činjenične točnosti, mogu lako proizvesti obmanjujuće citate.
Oslanjanje na podatke generirane UI-jem u kreiranju politika, posebno u obrazovanju, nosi značajne rizike. Kada se politike razvijaju na temelju izmišljenih informacija, mogu pogrešno rasporediti resurse i potencijalno naštetiti učenicima. Na primjer, politika ograničavanja upotrebe mobilnih telefona temeljena na izmišljenim podacima može skrenuti pozornost s učinkovitijih intervencija temeljenih na dokazima koje bi stvarno mogle koristiti učenicima.
Nadalje, korištenje neprovjerenih UI podataka može narušiti povjerenje javnosti i u proces kreiranja politika i u samu UI tehnologiju. Takvi incidenti naglašavaju važnost provjere činjenica, transparentnosti i opreza pri korištenju UI-ja u osjetljivim područjima donošenja odluka, posebno u obrazovanju, gdje utjecaj na učenike može biti dubok.
Dužnosnici Aljaske pokušali su umanjiti situaciju, nazivajući izmišljene citate “privremenim oznakama” namijenjenim kasnijoj korekciji. Međutim, dokument s “privremenim oznakama” još uvijek je predstavljen odboru i korišten kao osnova za glasanje, naglašavajući potrebu za strogim nadzorom pri korištenju UI-ja.
33 komentara
🤔🤔. .. mi na Balkanu možemo biti sretni, AI ovde neće nikada zaživeti jer je sve duboko u lažima, da! Zamislite ukucamo neke SVOJE pojmove i AI se zaprepasti i odma’ salva iz svih artiljerijskih oruđa raspali po komšiji… avioni 4+ genearacije sami poleću, rokaju odma
Naučiti će oni AI kako se laže.
Pa bilo bi cudo da su lazljivi anglosaksoni napravili AI koja govori istinu.
Tačno tako.
#
AI nije napravljen da bude neutralni tragalac za istinom.
AI je napravljen da podrži sumanute narative svojih finansijera.
#
Ali tekst govori suprotno – AI je borac protiv nametnug narativa o bezopasnosti mobilnih telefona! 🙂
Ti uiju samo reci što hoćeš i… to.daaa, imaš željeno. To što veze s istinom nema-nema veze. Današnja ui je jako loša alatka, koja vrlo lako može povrijediti mnoooge, uključujući i onog tko rukuje njome, jbg 😛 😛
Sam kažeš alatka – kao recimo internet. Možeš li da zamisliš koliko je štete omogućio internet: koliko dezinformacija je plasirano, koliko manipulacije i od MSM i od alternative, koliko loših odluka je zbog toga doneto, koliko mržnje, depresije, ubistava i samoubistava su prouzrokovale društvene mreže, pa sajber kriminal… svanulo bi dok završim nabrajanje. I samo postojanje AI bi bilo gotovo nemoguće bez interneta!
A da ukinemo internet? Ili da ga pažljivo koristimo?
A zamisli sta bi bilo za vreme kurzodemije, ups htedoh reci plandemije da nije bilo interneta. Ti bi bio naj frajer u selu i sa brnjicom na njusci i objasnio bi svim glupim seljacima koliko je opasan kurtona virus, kao sto si pokusao i ovde al te vecina odjebausala.
Očigledan generacijski jaz.
:
Ti imaš, reklo bi se, 17 godina, Sumadinac 70.
#
Virus je kosio starije, a ti si smejao, sprdao i radovao.
#
Zajebo si se taj ima godina ko i Šlomo i ispekao životnu školu na talijanskom asfvaltu, Šlomo je bio za kurtonu i zato ga jebe u mozak Pero, mladi si ti dečko i nisi ovdje od postojanja portala da bi znao neke cake…..
Regulativa je ključna riječ. Zamisli proizvodnju-distribuciju-potrošnju električne energije bez silnih propisa i pravila. Internet, a posebno ui nemaju ni djelić te regulative.
P.S: Ukidanje je priča za malu raju, jbg 😛 😛
Vrlo opasno.
Tek će stoka ljudska upoznati demijurga binarnog koliko je zao…..
Hehehe… AI “halicinira” kad ustanovi da su mobilni telefoni štetni za decu? Naravno da će da falsifikuje izvore kad ne može da dođe do materijala koji odražava pravo stanje… jer ga kriju. I onda kažu “AI opasna po čovečanstvo”! 🙂
Nedavno sam eksperimentisao stavljajući AI pred vrlo složene filozofske koncepte kao što su četvrta dimenzija, teoretska eksplozija crne rupe, uticaj gravitacije na svetlost (da li je “privlači” ili joj “deformiše prostor”) i ispostavilo se da je kvalitetniji “sagovornik” nego ogromna većina ljudi – čak inženjera srodnih oblasti!?! Nije nikakvo čudo što predstavlja teorije, iznosi podatke jer ima neverovatno veliku bazu informacija ali se i na klizavom terenu snalazi mnogo bolje nogo što sam očekivao – neočekivano dobro izvlači zaključke i pravi dobar izbor među teorijama koje još uvek nisu dokazane!
Radio sam sa više AI botova, GPT4 i Gemini su se pokazali kao najbolji iako je Gemini bio bolji u vrlo malo slučajeva od “četvorke”.
———————-
Problem “haluciniranja” AI je problem u optimizaciji njenog rada. Kako ne bi “prelistavala” enormne količine podataka kod svakog postavljenog zadatka koriste se algoritmi koji odbacuju ono “što izgleda nepotrebno” za izvršavanje tog zadatka i tako dolazi do odbacivanja relevantnih informacija pa se odgovor bazira na nedovoljno relevantnim ili se čak prave vrlo čudne konstrukcije.
Kada ne bi bilo te optimizacije, na odgovor bi čekali satima, danima pa i nedeljama čak i na jednostavna pitanja… ali ne bi bilo grešaka.
Ovaj problem će biti rešen u relativno kratkom roku jer je u suštini bag u programu. Ipak, čudno mi je da upućuje na “URL sa nepovezanim sadržajem”, doduše, nisam proveravao ponuđene reference.
Radovi na teme poput četvrta dimenzija, teoretska eksplozija crne rupe, uticaj gravitacije na svetlost nisu u sferi upravljanja populacijom/svijetom, i time nisu na meti falsifikatora/lažova, te ćeš time dobijati relevantne odgovore/konstrukte/što-god… Dakle, uzorak ti nije relevantan, uopće, jbg 😛 😛
Meni uglavnom trebaju informacije o onome što nije meta falsifikatora/lažova, za ostalo se ne mogu osloniti ni na “eksternu ljudsku inteligenciju” – već samo na sopstvenu.
Ali zato mogu da uzmem postojeći model AI (open varijantu) i da ga treniram prema svojim zaključcima…
p.s. Zamišljam obračun Zmajinog “božjeg” AI i Subaruovog “stvorovog” AI 😉
Ko “hrani” AI podacima,pitam kao totalni laik? Imamo primer vikipedije, legenda kruži da komšijskoj Hr. viki ne može svako prići i urediti je!
Uglavnom inženjeri iz određene oblasti pa onda ide na proveru od strane komisije više stručnosti iz te oblasti. A ako se radi o istoriji, geografiji… onda ide i na “ideološku komisiju” – da ned’o Bog negde Rusija ili Kina nisu u pozitivnom kontekstu predstavljeni 😉
Ali i ti možeš da skineš AI na svoj računar i da ga “vaspitavaš” po svojoj želji – bitno je da je AI otvorenog koda i da imaš hard disk dovoljnog kapaciteta da primi sve podatke AI-a kao i one koje ti ubacuješ. Verujem da ima takvih tutorijala koji mogu za max mesec dana da te osposobe za takav posao – jer tu se ne radi o programiranju već samo o formiranju baze informacija koju AI koristi za donošenje zaključaka.
Hej..pa to znači da idemo u budućnost di nema više “jajara koja će nam prodavati mooda za bubrege”? Lepo zvuči, onako na “prvu”, da!
normalno da ne može kad su deca komunjara zasjela na sve platforme.
Moja mi podsvijest (ovdje ide puno pojašnjenja, al’ preskočimo to) veli da bi se navedeni obračun mogao otvoriti oko ’31-’33… Naravno, ovo ne mogu ničim potkrijepiti. Podsvijest, jbg 😛 😛
ja sam tražio savjete dede koji je preživio veliuku depresiju i drugi rat.
proporučam i drugima, ali obavezno upisat da je deda mrzio i komunizam i kapitalizam, da ne za ere s lqbtqrit sra njima
@ Shumadinac,
Овај твој Бог пред којим се клањаш, не зове се „Вештачка интелигенција“, од почетка дигитализације, он се назива Програм.
Neki imaju AI za novog proroka i mesiju. Vjeruju da priča samo istinu i nikako ne može pogriješiti. Takvi su najglupliji.
Imaju jos gluplji – vjeruju MSM.
nešto ko msuk?
“…izmišljene informacije generirane kada UI pokušava stvoriti uvjerljiv ali neprovjereni sadržaj ”
😳🧐
??? Molim? Pa tko uopće može tražiti takve stvari?
Ako nas UI jednog dana zatuče, moglo bi biti opravdano.
Povjerenicu Bishop zatvoriti i izlupati.
Ja ovdje vidim odgovornost čovjeka.
I to dva čovjeka; osim ove povjerenice, tu je još jedan:
“Kada se ne kontroliraju, generativni UI algoritmi, koji su namijenjeni
🛑>>proizvodnji sadržaja na temelju obrazaca umjesto činjenične točnosti, << mogu lako proizvesti obmanjujuće citate. 😱
Ma šta "kontroliraju"?
TAKVI ALGORITMI UOPĆE NE TREBAJU I NE SMIJU POSTOJATI !!!🤯
Nemaš pojma o čemu govoriš.
Дуго сам се питао, који би то разлог био да се толико нападно намеће термин неке непостојеће „вештачке интелигенције“.
Ево, сада ми се показао један од разлога: „….povjerenica za obrazovanje Aljaske, Deena Bishop, koristila generativnu umjetnu inteligenciju za izradu politike o mobilnim telefonima“. Ето, вештачка интелигенција је на том месту смутила ЛАЖНЕ референце. Тако се нама приказује да се Deena Bishop није служила ЛАЖИМА, него се ЛАЖИМА служио програм који су Мудраци лукаво назвали „вештачка интелигенција“.
Тако се, видите, на велика врата поново почела употребљавати изрека из почетка развоја компјутеризације: Једна правница је на суду тада изјавила не трепнувши: „ Нисмо Ми погрешили, то је погрешио компјутер“. Судија је прихватио њено извњиење.
Nedavno sam koristio Cht gpt da mi napavi kratki tekst od 5 min o Parku Maksimir. Sva sreća da sam neke podatke znao od prije, jer je tekst imao barem tri lažne informacije, a kvaliteta teksta je bila očajna.
Upoznati ćete sto je to SIMULAKRUM.
Kažu ime mu je AI.
Tek je u prvoj od tri faze, kada KOPIRA i zapravo je jako otvoren, transparentan, potiče se sudjelovanje u njemu i naglašava kako su ljudotinje zapravo u lijepoj sinergiji sa njim pa programeri i 3D trudbenici svih vrsta mogu tu dobro zaraditi dok ne postanu višak, a to će biti kada SIMULAKRUM već dobrano krene u svoju drugu fazu, onu kada se PONAŠA KAO DA JE ORIGINAL. U tom momentu će se izgubiti veza između analognog i digitalnog čovjeka, a Zemlja će se splitati na analognu i AI te postati Zemlja 2.0.
Neću navoditi prastare izvore, ali u njima lijepo navode da smo trenutno u:: “illusion in the illusion” pa kome nije dosta samo neka ide dalje i dublje. Meni je druga razina udaljenosti od izvora u ovom trećem denzitetu dovoljno penetriranja i svijest razumije fraktalni niz takozvanih realiteta te sam koncept simulakruma. Ovaj naš realitet zapravo je u posljednjoj fazi koja karakterizira SIMULAKRUM, ovaj realitet troši sve resurse DA POBIJE ORIGINAL IZ KOJEGA JE NASTAO i nameće se kao da je on sam izvor i ORIGINAL. Na njemu raste novi, AI SIMULAKRUM u već spomenutoj, zasad prvoj fazi. Dakle i ovo u čemu živimo je kopija nekog realiteta prije njega. AI će biti kopija ovog sada na koji smo navikli i koji tvrdimo da je prirodan. Naš realitet jadno je iskopiran i udaljen od izvora tako da adamična duša u njemu manje-više lako, kroz desetine inkarnacija, spozna sve navedeno te poželi otići. Organski portali niti razumiju, niti vide izlaz jer oni su sistemci, likovi od papira koji popunjavaju prostor i vrijeme. Napadaju što ne razumiju jer ono što oni ne znaju, to niti ne postoji. Stoga sistemci moji, na koljena jer stiže vam AI, SIMULAKRUM u prvoj fazi. Veselo.
Upoznati ćete sto je to SIMULAKRUM.
Kažu ime mu je AI.
Tek je u prvoj od tri faze, kada KOPIRA i zapravo je jako otvoren, transparentan, potiče se sudjelovanje u njemu i naglašava kako su ljudotinje zapravo u lijepoj sinergiji sa njim pa programeri i 3D trudbenici svih vrsta mogu tu dobro zaraditi dok ne postanu višak, a to će biti kada SIMULAKRUM već dobrano krene u svoju drugu fazu, onu kada se PONAŠA KAO DA JE ORIGINAL. U tom momentu će se izgubiti veza između analognog i digitalnog čovjeka, a Zemlja će se splitati na analognu i AI te postati Zemlja 2.0.
Neću navoditi prastare izvore, ali u njima lijepo navode da smo trenutno u:: “illusion in the illusion” pa kome nije dosta samo neka ide dalje i dublje. Meni je druga razina udaljenosti od izvora u ovom trećem denzitetu dovoljno penetriranja i svijest razumije fraktalni niz takozvanih realiteta te sam koncept simulakruma. Ovaj naš realitet zapravo je u posljednjoj fazi koja karakterizira SIMULAKRUM, ovaj realitet troši sve resurse DA POBIJE ORIGINAL IZ KOJEGA JE NASTAO i nameće se kao da je on sam izvor i ORIGINAL. Na njemu raste novi, AI SIMULAKRUM u već spomenutoj, zasad prvoj fazi. Dakle i ovo u čemu živimo je kopija nekog realiteta prije njega. AI će biti kopija ovog sada na koji smo navikli i koji tvrdimo da je prirodan. Naš realitet jadno je iskopiran i udaljen od izvora tako da adamična duša u njemu manje-više lako, kroz desetine inkarnacija, spozna sve navedeno te poželi otići. Organski portali niti razumiju, niti vide izlaz jer oni su sistemci, likovi od papira koji popunjavaju prostor i vrijeme. Napadaju što ne razumiju jer ono što oni ne znaju, to niti ne postoji. Stoga sistemci moji, na koljena jer stiže vam AI, SIMULAKRUM u prvoj fazi. Veselo.
Zašto umjetna inteligencija nemore uspjeti na balKanu ?!
Di je inteligencija? Sve glupo i zatucano!,,Čast izuzetcima” ? Malo sutra!