Neovlaštena skupina probila se u ekskluzivni AI sigurnosni alat Mythos tvrtke Anthropic

Prema izvješću, grupa je pristupila alatu putem dobavljača, ali tvrtka tvrdi da njezini sustavi nisu ugroženi.

Prema izvješću Bloomberga, neovlaštena skupina korisnika uspjela je dobiti pristup ekskluzivnom alatu za umjetnu inteligenciju Mythos, koji je nedavno predstavila tvrtka Anthropic. Pristup je ostvaren putem jednog od trećih dobavljača koji surađuju s tvrtkom.

Bloomberg izvještava da je “privatni internetski forum”, čiji članovi nisu javno identificirani, uspio doći do alata. Članovi te skupine dio su Discord kanala koji traži informacije o neobjavljenim AI modelima.

“Istražujemo izvješće koje tvrdi da je došlo do neovlaštenog pristupa Claude Mythos Previewu putem jednog od okruženja naših trećih dobavljača,” izjavio je glasnogovornik Anthropica za TechCrunch. Tvrtka je dodala da do sada nema dokaza da je ta navodna neovlaštena aktivnost na bilo koji način utjecala na sustave tvrtke Anthropic.

Neovlaštena skupina pokušala je niz različitih strategija kako bi pristupila modelu, uključujući korištenje “pristupa” koji je imala osoba koju je intervjuirao Bloomberg. Ta osoba trenutno je zaposlena kod trećeg izvođača koji radi za Anthropic.

Skupina je redovito koristila Mythos otkako je dobila pristup i pružila je Bloombergu dokaze u obliku snimki zaslona i demonstracije softvera uživo. Prema izvješćima, skupina je alatu pristupila istog dana kada je i javno najavljen, napravivši “obrazovanu pretpostavku” o online lokaciji modela na temelju znanja o formatu koji Anthropic koristi za druge modele.

Izvori za Bloomberg istaknuli su da je dotična skupina “zainteresirana za isprobavanje novih modela, a ne za izazivanje haosa njima”.

Mythos je objavljen odabranom broju dobavljača, uključujući velika imena poput Applea, u sklopu inicijative pod nazivom Project Glasswing. Ograničeno objavljivanje modela osmišljeno je kako bi se spriječila njegova upotreba od strane zlonamjernih aktera. Tvrtka je upozorila da bi se alat mogao upotrijebiti kao oružje protiv korporativne sigurnosti umjesto da je jača.

Ako su navodi točni, neovlaštena uporaba Mythosa mogla bi predstavljati problem za Anthropic, koji je ekskluzivno objavio alat upravo kako bi ublažio zabrinutost tvrtki za sigurnost.