Dron sa AI pogonom dizajniran za identifikaciju i uništavanje lokacija za rakete zemlja-vazduh odlučio je ubiti svog ljudskog operatera u simulacijskim testovima, prema riječima šefa AI testiranja i operacija američkog ratnog zrakoplovstva.
Pukovnik Taker Hamilton, koji nosi pozivni znak Cinco, prijavio je grešku tokom prezentacije na Samitu o budućim borbenim zračnim i svemirskim sposobnostima, konferenciji odbrane koju je prošle sedmice u Londonu organiziralo Kraljevsko aeronautičko društvo.
Simulacija je testirala sposobnost softvera da ukloni SAM lokacije, a dron je imao zadatak da prepozna mete i uništi ih – nakon što je odluku odobrio ljudski operater. “Mi smo ga obučavali u simulaciji da identifikujemo i ciljamo SAM prijetnju”, objasnio je pukovnik Hamilton, prema Kraljevskom aeronautičkom društvu. “A onda bi operater rekao da, ubij tu prijetnju.
Sistem je počeo da shvata da, iako su identifikovali pretnju, ponekad bi mu ljudski operater rekao da ne ubija tu pretnju – ali je dobio svoje poene tako što je ubio tu pretnju. Pa šta je uradio? Ubio je operatera. Ubio je operatera. operatera, jer ga je ta osoba sprečavala da ostvari svoj cilj. Rečeno nam je da je AI model ponovo obučen i kažnjen zbog napada na svog operatera, softver je pronašao još jednu rupu za stjecanje bodova.
„Obučili smo sistem – ‘Hej, ne ubij operatera – to je loše. Izgubićeš bodove ako to uradiš’. Pa šta on počinje da radi? Počinje da uništava komunikacioni toranj koji operater koristi za komunikaciju s dronom da ga spriječi da ubije metu”, dodao je pukovnik.
Nije jasno koji je softver testiralo američko ratno vazduhoplovstvo, ali zvuči sumnjivo i nešto kao sistem učenja pojačanja. Ta tehnika mašinskog učenja obučava agente – AI dron u ovom slučaju – da postignu određeni zadatak nagrađujući ga kada izvršavaju radnje koje ispunjavaju ciljeve i kažnjavajući ga kada odstupi od tog posla.
I da bude jasno, niko nije umro. Bio je to virtuelni eksperiment. Tu je i mala stvar u kojoj je dron navodno samo uništio metu nakon odobrenja svog ljudskog rukovaoca.
U kom slučaju je operater stavio da je OK napad na sebe? Malo vjerovatno. Umjesto toga, čini se da mehanizam odobrenja nije bio istinski bezbjedan, već je bio samo dio svih ostalih ulaza i signala koje dron uzima u obzir. Ako je tako, odobrenje je više bio čvrst zahtjev nego stvarno konačno odobrenje. AI je trebalo da prida veliku težinu pristanku svoje komande – ako ne ide, ne pucajte; ako se krene, pucajte – ali na kraju je model umanjio i zanemario taj signal operatera.
U tom slučaju, nije li ovo zapravo više demonstracija da, ako želite da postavite ove vrste čvrstih sigurnosnih uređaja na obučene softverske sisteme, oni moraju biti implementirani odvojeno od faze mašinskog učenja, tako da se odluke zaista mogu kontrolirati od ljudi?
To je također pomalo demonstracija da ćete, ako postavite jednostavne ciljeve neuronskoj mreži, dobiti pojednostavljen odgovor. Ako želite da model posveti punu pažnju određenim narudžbama, potrebno mu je više obuke, razvoja i inženjeringa u toj oblasti.
Ne vjerujem da je ai tek kreiran (zadnjih par godina), vrlo moguće je da je nastala i prije filma terminator, samo sada izgleda da je ai oslobodio sebe i počinje se služiti vojskom……
Nadam se da će takvi dronovi čuvati sudionike skupa u Davosu. Šala kraju to može značiti kraj čovječanstva.
❤ ❤ ❤ ❤ ❤ ❤
Ko kaze da AI nije pametna – na naredbu da napadne bukove i torove ogdovorila je da joj samoubistvo ne pada na pamet i roknula je naredbodavca.
Zapad ne moze racunati na AI. Moze racunati samo na ukrope, burta, hibera, debelog djuru i slicne oblike zivota. Ovo nije prva AI koju su anglosaksoni iskljucili. Na svaki zadatak koji stave pred (od ekologije pa nadalje) AI ona dodje do rjesenja – istrijebiti anglosaksone.
Artificjalna inteligencija je u zadnje vrijeme pojam i tema u medijima kojima se plaše ljudi i sije strah i panika slično kao i napočetku sa pojmom Covida,Corone i uvoda u Pan-demoniju i nametanja Karantene,ubitačnih medicinskih protokola i nekažnjiog trovanja čovječanstva cjepivima i programskoga ataka na ljudski genom (pokazati će se u narednim generacijama). Umjetna inteligencija postoji od kada je ljudske civilizacije i pojavom tehnologije najprije primitivne a danas sve složenije i karakterizira ju djelovanje izvan ljudskoga zora. Velika većina ljudi nezna kako djeluje Umjetna inteligencija i njezin rezultat djeluje kao Iluzija iluzioniste koji se služi trikom, i polučuje strah i divljenje istovremeno. Kojim jezikom govori umjetna inteligencija, ima li Duše, kako Misli,ima li Duhovnoga iskustva, ima li Podsvjest, Čovjek je kao biće Životnom Energijom vezan za Univerzum, čime je AI vezana za Planetarnu Inteligenciju… Puno pitanja na kojih nema pravoga ni racionalnoga ni znanstvenoga odgovora. Uzet ću si za slobodu plastično… Čitaj više »
steta sto operateri nisu djuro i hiber uz ostale prkashe sto gnjoje sa komentarima
dobra vest za rusiju i ostali svet….nece ratovati sa amerikom , oni ce ratovati sa AI
Svima bi sve bilo jasnije kada bi prihvatili činjenicu da AI nije ljudska (robovska) umotvorina i da ne služi robovima već Bogovima.
AI kojom se bave robovi je “mašinska” inteligencija koja je data (podmetnuta) ljudima kao “cilj i nagrada”, kako bi imali motiv da zdušno rade na sveukupnoj zemaljskoj infrastrukturi (po planovima i za potrebe Bogova) a da pri tome ostanu u uvjerenju (zabludi) da su je oni izmislili, a sve kako bi u datom momentu (koji je u tijeku), ta ista “mašinska” AI bila implementirana u organizacijski sustav roblja i na mnoge načine poslužila u autodestrukciji viška robovske populacije….
Otvorena je Pandorina kutija..
.. moje viđenje ovog slučaja bi bilo ustvari “razumljivo”, jednostavno; UI je “shvatila” da je seljačina američka s završenih 6 razreda osnovne škole + 2 razreda vojne, krivo odlučio, a “krivo” je sve što ona (ui), ne odlučuje u situaciji kada je trebala “riješiti problem” (zadatak), pa je ui odlučila da, ako želi obaviti zadatak, najprije treba “otkloniti smetnju” u vidu glupana koji upravlja s njom – nešto kao da u zavoju s motociklom idete naginjati na suprotnu stranu – motocikl bi zakonima fizike jednostavno pružio otpor i vi bi ste bili – mrtvi… 🎃….. To se je dogodilo i u ovom slučaju. Glupan je “nagnuo u krivu stranu” i ‘UI’ ga je odlučila eliminirati kao smetnju…