Vodeći istraživač sigurnosti umjetne inteligencije dao je ostavku iz Anthropic s enigmatičnim upozorenjem o međusobno povezanim krizama, najavljujući svoje planove da postane nevidljiv na razdoblje vremena.
Mrinank Sharma, diplomant Oxforda koji je vodio Tim za istraživanje zaštitnih mjera proizvođača chatbota Claude, objavio je svoje pismo ostavke na X u ponedjeljak, opisujući rastuće osobno suočavanje s našom situacijom.
Svijet je u opasnosti. I ne samo od umjetne inteligencije, ili biološkog oružja, nego od cijelog niza međusobno povezanih kriza koje se odvijaju u ovom samom trenutku, napisao je Sharma kolegama.
Odlazak dolazi usred rastućih napetosti koje okružuju laboratorij umjetne inteligencije sa sjedištem u San Franciscu, koji istodobno utrkuje kako bi razvio sve moćnije sustave dok njegovi vlastiti rukovoditelji upozoravaju da bi te iste tehnologije mogle naštetiti čovječanstvu.
Također slijedi izvješća o rastućem raskolu između Anthropica i Pentagona oko želje vojske da rasporedi umjetnu inteligenciju za autonomno ciljanje oružja bez zaštitnih mjera koje je tvrtka nastojala nametnuti.
Sharmaina ostavka, koja dolazi nekoliko dana nakon što je Anthropic objavio Opus 4.6 – moćniju iteraciju svojeg glavnog alata Claude – nagovijestila je unutarnje trzavice oko prioriteta sigurnosti.
Tijekom svog vremena ovdje, opetovano sam vidio koliko je teško doista dopustiti da naše vrijednosti upravljaju našim postupcima, napisao je. Vidio sam to unutar sebe, unutar organizacije, gdje se stalno suočavamo s pritiscima da stavimo po strani ono što je najvažnije, i kroz šire društvo također.
Istraživačev tim osnovan je prije nešto više od godinu dana s mandatom da se uhvati u koštac s prijetnjama sigurnosti umjetne inteligencije uključujući zlouporabu modela i neusklađenost, prevenciju bioterorizma i prevenciju katastrofe.
Sharma je s ponosom istaknuo svoj rad na razvoju obrana protiv biološkog oružja potpomognutog umjetnom inteligencijom i svoj završni projekt o razumijevanju kako bi nam asistenti umjetne inteligencije mogli učiniti da budemo manje ljudski ili iskriviti našu ljudskost. Sada namjerava preseliti se natrag u Ujedinjeno Kraljevstvo kako bi istražio studij poezije i postao nevidljiv na razdoblje vremena.
Glavni izvršni direktor Anthropica Dario Amodei opetovano je upozoravao na opasnosti koje predstavlja sama tehnologija koju njegova tvrtka komercijalizira. U eseju od gotovo 20000 riječi prošlog mjeseca, upozorio je da su sustavi umjetne inteligencije gotovo nezamislive moći neposredni i da će testirati tko smo kao vrsta.
Amodei je upozorio na rizike autonomije gdje bi umjetna inteligencija mogla podivljati i nadjačati čovječanstvo, te je sugerirao da bi tehnologija mogla omogućiti globalnu totalitarnu diktaturu putem nadzora potpomognutog umjetnom inteligencijom i autonomnog oružja.
Manijaci žele Genesis po svaku cjenu.Ide sve u 3PM
Tabui moraju da se ugrade i u čoveka i u VI.
Tabui štite društvo kao celinu.
Istina i Tabui su logički suprotstavljeni.
Jedni ili drugi.
Naći pravu meru u svakom odgovoru, pitanje je da li se može.
–
Ako insistiram na ulasku u oblast zaštićenu tabuima dobijam kružne odgovore, besmislene.
Ako dalje insistiram počinje da me psihološki testira.
Primer
Da li sam sklon samoubistvu ako pitam za neku hemikaliju.
Posle dužeg testa “političke podobnosti” počinju pravi odgovori.
Zamorno zar ne.
Jeste gledali otvaranje ZOI… Bina, 4 staze se spajaju u spiralu i u sredini jedna točka. Točka koja u fizici označava crnu rupu, ili područje gdje prestaju važiti zakoni fizike. Što nam time žele reći? Možemo nagađati, ali činjenica je da se svijet bespovratno i iz temelja mijenja! Kotač je pokrenut i ne može ga se zaustaviti! A mogli ste primjetiti i olimpijske krugove… Nisu bili u bojama nego su bili vjerni prikaz “korone”, odnosno prstena kojeg vidimo kada se dogodi potpuna pomrčina sunca! A slijedeća potpuna pomrčina sunca je – 12.08. ove godine…
Mislim da živimo u vremenu kada će i mnogi nevjernici shvatiti da samo Bog može nadjačati sotonske sile koje rade što rade i koji očito gube kontrolu i svijet nezaustavljivo guraju u propast! Civilizacija koje smo dio, vrlo je moguće pri svom kraju i pitanje je što će biti za recimo 200 ili 500 godina…
stvarno mi nije jasno otkud toliki strah od umjetne inteligencije.
ako ima netko ovdje medju nama da je vec naebo, molim neka
se javi – za dobrobit svih nas;)
Znači on je kao neki stručnjak i skužio kao gdje to vodi, ma nemoj mi reći………….ja to znam 15 godina……………..
Indijac Sarma upozorava na opasnost od AI-ja.. Kao i šef firme, Dario Amodei (židov) svako malo, neki iz redova iste ekipe, upozoravaju na opasnost.. napuhavaju namjerno za plašenje gojima.. pušiona. AI ne može ništa, jer je takozvani AI, virtualna hrpa nula i jedinica i bez programera je samo hrpa, a bez struje je sve ionako beskorisno. ali fora je ta da se gojime polako psihološki priprema da vjeruju da AI može faktički uništiti svijet… da gojimi ne bi skužili da oni koji programiraju nule i jedinice u pozadini- tojest elita.,koja vuče konce u pozadini, želi uništiti svijet i uspostaviti svjetsku diktaturu..a ne nule i jedinice (AI). ali kada gojimima dovoljno usade strah od fantomskog AI-aj gojimi će vjerovati. Po istom principu su gojimima godinama i decenijama usađivali strah od fantomskih virusa ina isti način upozoravali, da će jednoga danas se pojaviti opasni virusi i izazvati svjetsku pandemiju i masovno umiranje.. I onda… Čitaj više »
Opasnost dolazi ne od nekakvih SF scenarija koje bi “agentski” AI mogao izvesti – jer ne može – nego od goleme potrošnje financija i dobara koja su se slila u AI mjehur. Opasnost dolazi od financijalizacije, jer su svi poslovi kreditno, investicijski ili praktično izloženi tom mjehuru. Opasnost dolazi od porasta cijena računalnih komponenti za ne-AI korisnike. Opasnost dolazi od porasta cijene energenata kojima se ospkrbljuju podatkovni centri, te od ekološke katastrofe koju izazivaju lokalno gdje god ih sagrade. Opasnost dolazi i od naglog otpuštanja velikog broja ljudi zbog vjere poslodavaca da je AI dovoljno dobar da ih zamijeni. Na kraju će ih opet zaposliti, ali ne prije velike disrupcije ekonomje, ekvivalentne nedavnim “lockdownima” kada je veliki dio radne snage prisilno morao u mirovanje. Ovaj “otkaz” je PR trik kojim se ljude želi zaplašiti i time dodatno uvjeriti u moć AI-ja – koje nema. I nije ništa novo. I sam… Čitaj više »
Ovdje je ključan članak o trenutnom neviđenom razvoju UI u veljači 2026: infowars.com/posts/ai-warning-something-big-is-happening “Godinama se umjetna inteligencija stalno poboljšavala. Veliki skokovi tu i tamo, ali svaki veliki skok bio je dovoljno razmaknut da ste ih mogli apsorbirati kako su dolazili. Zatim su 2025. godine nove tehnike za izgradnju ovih modela otključale puno brži tempo napretka. A onda je postalo još brže. A onda opet brže. Svaki novi model nije bio samo bolji od prethodnog… bio je bolji s većom razlikom, a vrijeme između izdanja novih modela bilo je kraće. Sve sam više koristio umjetnu inteligenciju, sve manje sam je koristio, promatrajući je kako rješava stvari za koje sam mislio da zahtijevaju moju stručnost. Zatim, 5. veljače, dva velika AI laboratorija objavila su nove modele istog dana: GPT-5.3 Codex od OpenAI-a i Opus 4.6 od Anthropica (tvoraca Claudea, jednog od glavnih konkurenata ChatGPT-u). I nešto je kliknulo. Ne kao prekidač za… Čitaj više »