Američka vlada odbacuje Muskov AI zbog “antisemitizma”

Američka vlada je izbacila Elon Muskov AI chatbot Grok iz planiranog saveznog tehnološkog programa nakon kontroverze oko antisemitskog sadržaja i teorija zavjere koje je bot proizveo, izvijestio je Wired u četvrtak.

Grok, razvijen od Muskove AI startap tvrtke xAI, ugrađen je u njegovu društvenu platformu X. Nudi provjere činjenica, brzi kontekst o aktualnim temama i odgovore na korisničke argumente. Musk je promovirao xAI kao konkurenta OpenAI-u i Googleovom DeepMindu, ali chatbot se suočio s kritikama zbog uvredljivih i zapaljujućih izlaznih sadržaja.

Prema izvješću, xAI je bio u naprednim pregovorima s Upravom za opće usluge (GSA), agencijom zaduženom za nabavu tehnologije američke vlade, kako bi saveznim radnicima omogućio pristup svojim AI alatima. Grok je već bio dodan na GSA-in dugoročni popis nabave, omogućujući agencijama da ga kupe.

Početkom ovog mjeseca, GSA je objavila partnerstva s drugim AI pružateljima – Anthropic, Googleov Gemini i Box-ova AI platforma za sadržaj – dok je navodno također rekla osoblju da ukloni xAI-jev Grok iz ponude. Dva zaposlenika GSA rekla su Wiredu da vjeruju kako je chatbot izbačen zbog svoje antisemitske tirade prošlog mjeseca, kada je hvalio Adolfa Hitlera i nazivao sebe “MechaHitler”. Objave su izbrisane, a xAI se ispričao za “užasno ponašanje”, obvezujući se blokirati govor mržnje prije nego Grok postane aktivan.

Bot je također promovirao teoriju zavjere o “bijelom genocidu” i odjekivao retorikom poricanja Holokausta, što je xAI pripisao neovlaštenim promjenama uputa.

Ovaj tjedan je nakratko suspendiran s X-a nakon što je izjavio da Izrael i SAD vrše genocid u Gazi – optužbe koje obje zemlje odbacuju.

Musk je nastavio hvaliti chatbot, nedavno napisavši: “Istok, Zapad, @Grok je najbolji.”

Potez odbacivanja Groka dolazi kao dio šireg poticaja administracije američkog predsjednika Donalda Trumpa da modernizira saveznu vladu prema akcijskom planu predstavljenom prošlog mjeseca koji predviđa manju regulaciju i šire usvajanje AI-a. Međutim, brzi rast AI-a izazvao je zabrinutost zbog njegovog potencijala za širenje dezinformacija, pojačavanje pristranosti i rad bez odgovornosti. Stručnjaci kažu da bi, osim ako nisu uspostavljene snažne zaštitne mjere, loše moderirani AI alati također mogli izložiti djecu štetnom ili neprimjerenom sadržaju.