Googleov model Gemini našao se na meti kritika zbog proizvodnje povijesno netočnih i rasno iskrivljenih slika, što je ponovno izazvalo zabrinutost oko pristranosti u sustavima umjetne inteligencije.
Kontroverza je nastala kada su korisnici na platformama društvenih medija preplavili feedove primjerima Geminija koji generiraju slike koje prikazuju rasno raznolike naciste, crne srednjovjekovne engleske kraljeve i druge nevjerojatne scenarije.
Google Gemini Image generation model receives criticism for being 'Woke'.
Gemini generated diverse images for historically specific prompts, sparking debates on accuracy versus inclusivity. pic.twitter.com/YKTt2YY265
— Darosham (@Darosham_) February 22, 2024
U međuvremenu, kritičari su također istaknuli Geminijevo odbijanje da prikaže Kavkazance, crkve u San Franciscu iz poštovanja prema domorodačkim osjetljivostima i osjetljive povijesne događaje poput Trga Tiananmen 1989.
Kao odgovor na reakciju, Jack Krawczyk, voditelj proizvoda za Google Gemini Experiences, priznao je problem i obećao da će ga riješiti. Krawczyk je otišao na platformu društvenih medija X kako bi uvjerio korisnike:
Google za sada kaže da pauzira generiranje slika ljudi:
We're already working to address recent issues with Gemini's image generation feature. While we do this, we're going to pause the image generation of people and will re-release an improved version soon. https://t.co/SLxYPGoqOZ
— Google Communications (@Google_Comms) February 22, 2024
Iako priznaju potrebu za rješavanjem raznolikosti u sadržaju generiranom umjetnom inteligencijom, neki tvrde da je Googleov odgovor bio pretjerana korekcija.
Marc Andreessen, suosnivač Netscapea i a16z, nedavno je stvorio “nečuveno siguran” parodijski AI model pod nazivom Goody-2 LLM koji odbija odgovoriti na pitanja koja se smatraju problematičnim. Andreessen upozorava na širi trend prema cenzuri i pristranosti u komercijalnim AI sustavima, naglašavajući moguće posljedice takvog razvoja događaja.
Baveći se širim implikacijama, stručnjaci ističu centralizaciju modela umjetne inteligencije pod nekoliko velikih korporacija i zalažu se za razvoj modela umjetne inteligencije otvorenog koda za promicanje raznolikosti i ublažavanje pristranosti.
Yann LeCun, Metin glavni znanstvenik za umjetnu inteligenciju, naglasio je važnost poticanja raznolikog ekosustava modela umjetne inteligencije koji je sličan potrebi za slobodnim i raznolikim tiskom:
google, everyone pic.twitter.com/XTADUICHRk
— kache (sponsored by dingboard) (@yacineMTB) February 20, 2024
Bindu Reddy, izvršni direktor tvrtke Abacus.AI, ima sličnu zabrinutost oko koncentracije moći bez zdravog ekosustava modela otvorenog koda:
If we don't have open-source LLMs, history will be completely distorted and obfuscated by proprietary LLMs
We already live in a very dangerous and censored world where you are not allowed to speak your mind.
Censorship and concentration of power is the very definition of an…
— Bindu Reddy (@bindureddy) February 21, 2024
Kako se rasprave o etičkim i praktičnim implikacijama umjetne inteligencije nastavljaju, potreba za transparentnim i uključivim razvojnim okvirima umjetne inteligencije postaje sve očiglednija.
panem et circenses….koji cirkus:)))))))
Još kažu da se bore protiv propagande dok sve povijesne ljude i događaje prikazuje kao crnce.
Gluposti.
Sve rade, da ljudima unište smisao života i stvore kretenske robove praznih glava.
Koja sprdačina,nama starijima je ovo teško glupavilo,ali ako budu uporni s ovim bedastoćama,nove generacije će sve to smatrati normalnim i autentičnim.
ali onaj afrika, pod shljemom wehrmachta, po algoritmima woke ključa. ..za nebilivit.
Ajmo sad malo, za balkanske potrebe, generiranih fotografija pripadnika Crne Legije i Crne Ruke. Da zadovoljimo i hrvatske i srpske nacionaliste. 😀
Crna im majka….
Jack Krawczyk mislim da ne moram naglašavati da je lik Židov
mašina za generiranje gluposti i spam produkcije.
Nema transparentnosti kad je u pitanju AI, i nikad je neće biti.
Trebat če nam samo novi anti-spam filtrovi za instalaciju. Koji če blokirati ove ž i sve takve AI generirane slikice i tekstove. Ja imam ga več instaliranog 😝.
Ovo nema nikakve veze sa AI.
Ali zato ima sa revizijom povijesti.
Ne samo 2. svjetskog rata.
Počelo je kad je BBC prikazao Ann Bolen kao – crnkinju.
Pa bi valjda trebalo biti normalno što ima puno crnaca u Britaniji.
To je sve.
Još prije 20 godina veliki postotak mladih tamo, 70% (?), nije znao tko je Churchill.
O čemu pričamo? Kraj priče.
Ah, da. I Kleopatra bi trebala biti crna. Ptolomejevićka. Jednoj crnkinji je to rekla baka: ” što god govorili, nemoj vjerovati da nije”.
Ta ista kokoš ne zna da su i te kako postojale prave crne kraljice na afričkom kontinentu.
Iskrivljanje činjenica i istorije je zapadni specialitet več par stotina godina.