fbpx

Google je propao u skandalu zbog AI pristranosti

Google

Istraživačica Timnit Gebru, sada bivša ko-šefica Google odjeljenja za etičku inteligenciju, kaže da je otpuštena nakon što su njene kolege od nje dobile e-poštu, gdje se „zalagala za nedovoljno zastupljene ljude“ u istraživanjima AI i među redovima kompanije uopšte.

Google je objasnio zašto je vrhunska istraživačica vještačke inteligencije napustila tehnološkog giganta nakon što je presuđeno da objavljivanje rada o važnom pitanju etike vještačke inteligencije, čija je koautorka, nije dozvoljeno.

Jeff Dean, Googleov šef AI-a, branio je odluku u internom e-mailu poslatom osoblju u četvrtak, rekavši da rad „nije ispunio uslove za objavljivanje“ i napomenuvši odlazak Timnit Gebru, koja je bila kopredsjednica tima AI Ethics u Google, uz odgovor na odbijanje kompanije iz Silicijumske doline da ispuni neke neodređene uslove koje je postavila za ostanak na svom položaju u kompaniji.

Timnit Gebru tvitovala je u srijedu uveče da je otpuštena zbog e-maila koji je poslala dan ranije zaposlenima u kompaniji.

U e-mailu izrazila je svoje razočaranje Googleovim odgovorom na napore nje i drugih zaposlenih da pojača zapošljavanje manjina i skrene pažnju na pristrasnost u vještačkoj inteligenciji uopšte.

“Vaš život počinje da se pogoršava kada počnete da se zalažete za nedovoljno zastupljene ljude. Druge lidere počinjete da uznemiravate”, navodi se u e-mailu. „Nema šanse da će više dokumenata ili više razgovora postići bilo šta“.

”Ućutkivanje marginalizovanih glasova”

U nastavku se žalila da unutar Googlea postoji “nula odgovornosti” oko tvrdnji kompanije da želi da poveća udio žena u svojim redovima. U e-mailu, koji je prvi put objavljen na Platformer, prikazana je i odluka da se njenom radu ne daje zeleno svjetlo kao dio procesa „ućutkivanja marginalizovanih glasova“.

U prošlosti je već bilo napetosti sa upravom Google zbog njenog zalaganja za veću raznolikost, po riječima jednog od Gebruinih kolega. Ipak, ostavljajući razloge po strani, uzrok njenog odlaska navodno je bila odluka kompanije da ne dozvoli objavljivanje istraživačkog rada čiji je koautor, rekla je ta osoba.

Dotični rad je proučio potencijalnu pristrasnost u sveobuhvatnim jezičkim modelima, zaista obećavajućem polju istraživanja prirodnog jezika, pri čemu sistemi poput OpenAI GPT-3 i Googleovog sopstvenog sistema Bert pokušavaju da predvide sljedeću riječ u bilo kom izgovoru.

„Neko u Googleu je odlučio da je to štetno za njihove interese“

Pristup je u osnovi efikasnih automatizovanih sistema za pisanje, a Google ga koristi za bolje razumijevanje izazovnih upita za pretragu. Tekstualni modeli, koji se oslanjaju na korpusnu lingvistiku, podstakli su zabrinutost da bi mogli automatski da apsorbuju rasne i druge pristrasnosti sadržane u materijalima za obuku koji su uglavnom izvedeni sa Interneta.

Prema riječima Emili Bender, profesorke računske lingvistike na Univerzitetu u Washingtonu, koja je vanjska koautorka rada, Gebru-in odlazak izgleda kao da je „neko u Google zaključio da je ovo štetno za njihove interese“.

„Akademska sloboda je veoma važna – postoje rizici kada se istraživanje odvija na mjestima koja nemaju tu akademsku slobodu“, nastavila je, nagađajući da ovo kompanijama ili vladama daje moć da „zatvore“ istraživanje koje oni ne odobravaju.

Bender je rekla da su se u njihovom konkretnom slučaju autori nadali da će rad dodatno ažurirati novijim istraživanjima na vrijeme kako bi bio prihvaćen na konferenciji kojoj će prisustvovati. Dodala je da je uobičajeno da takav rad zamijene novija istraživanja, s obzirom na to kako brzo napreduje rad na ovakvim poljima.

„U istraživačkoj literaturi nijedan rad nije savršen“, rekla je istraživačica.

Udarac u pouzdanost tehnologija

Isto tako, i sama Gebru se pozabavila osnovnim razlozima svog „otkaza“:

„…s količinom cenzure i zastrašivanja koja se nastavlja prema ljudima u određenim grupama, kako neko vjeruje da se može sprovesti neko pravo istraživanje u ovoj oblasti?“, Pitala se 37-godišnja istraživačica u jednom od svojih najnovijih tvitova.

Ugrađena pristrasnost

Gebruin odlazak iz Google izazvao je burne reakcije, ističući nagli porast napetosti između otvorenog osoblja kompanije i višeg rukovodstva, istovremeno izazivajući zabrinutost zbog napora kompanije da se izbori sa socijalnom nepravdom (uključujući navode o seksualnom uznemiravanju), kao i izgradnjom poštene i pouzdane tehnologija.

Konkretno, izražena je zabrinutost da bi ljudi koji dizajniraju sisteme vještačke inteligencije mogli da ugrade svoje predrasude u visoku tehnologiju.

New York Times je izvijestio da je tokom posljednjih nekoliko godina mnoštvo javnih eksperimenata pokazalo da sistemi umjetne inteligencije često različito komuniciraju sa ljudima sa drugom bojom kože – za šta se vjeruje da je uzrokovano njihovom nedovoljnom zastupljenošću među tehničkim specijalistima.

 

2.9 16 votes
Ocijenite članak
Pretplati se
Obavijest
guest
15 Comments
najstariji
najnoviji najviše ocjenjeniji
Inline Feedbacks
View all comments
Stara kuka
Gost
Stara kuka
1 mjesec prije

Odjeljenja za etičku inteligenciju???
…profesorke računske lingvistike???

..mnoštvo javnih eksperimenata pokazalo da sistemi umjetne inteligencije često različito komuniciraju sa ljudima sa drugom bojom kože???

Nego, koliko sam ja shvatio “vrhunska istraživačica” je bila “šefica odjela” koji se bavio “etičkim pitanjima” prevedeno nametanjem političke korektnosti, rodne ravnopravnosti i multikulturalnosti u programska rješenja ali i “popravljanjem” “rodne”, etničke i rasne strukture dobro plaćenog Googleovog kadra.

Spomenuta “vrhunska istraživačica” kaže da je otpuštena zbog maila u kojem je “izrazila svoje razočaranje Googleovim odgovorom na napore nje i drugih zaposlenih da pojača zapošljavanje manjina i skrene pažnju na pristrasnost u vještačkoj inteligenciji uopšte.” A u nastavku se žalila da unutar Googlea postoji “nula odgovornosti” oko tvrdnji kompanije da želi da poveća udio žena u svojim redovima, a prikazana je i odluka da se njenom radu ne daje zeleno svjetlo kao dio procesa „ućutkivanja marginalizovanih glasova“.

Naravno njen rad nije dobio zeleno svjetlo samo zato jer je ona žena i Indijka, a nikako zato jer nije ni k…u vrijedio.

Uostalom, svatko tko imalo zna o Googleu i njegovoj politici zna kakva je to ultradesničarska, patrijarhalna homofobna i rasistička kompanija koja nemilosrdno tlači svoje ženske i ostale “manjinske” zaposlenike.

Ali kad se u “odjelu za etičku inteligenciju” baviš “računskom lingvistikom” i otkriješ da je “umjetna inteligencija” rasistička svašto možeš očekivati.

Darko
Gost
Darko
1 mjesec prije
Reply to  Stara kuka

Šta se čudiš pa vidiš da Google je AI umjetna inteligencija koja daje otkaz svima ljudima ostat će neki na papiru reda samo. Google je Zlo
youtube.com/watch?v=WXuK6gekU1Y

Barrio
Gost
Barrio
1 mjesec prije
Reply to  Stara kuka

Google je propao a meni tražilica još radi, Ako je stvarno propao ja bi ga kupio za male pare.

shumadinac
Gost
shumadinac
1 mjesec prije

A, ne može tako vlasnici Gugla – vi bi da zapošljavate koga hoćete??? Izgleda da vam nije jasno da živite u kapitalizmu!
Pokrećem peticiju da u Guglu svi zaposleni budu žene i to isključivo iz redova imigracije ali pod uslovom da će se u što kraćem roku odreći pola i postati nešto…bespolno…

Darko
Gost
Darko
1 mjesec prije
Reply to  shumadinac

Šta se čudiš pa vidiš da Google je AI umjetna inteligencija koja daje otkaz svima ljudima ostat će neki na papiru reda samo. Google je Zlo
youtube.com/watch?v=W7wJDJ56c88

Mahatma
Gost
Mahatma
1 mjesec prije

Ja mislim da Timnit ne razumije šta cenzura znači.

Mucke
Gost
Mucke
1 mjesec prije

Potpuno je nezapazeno prosla informacija o tuzbi vladine administracije protiv FB kojom vlasti zele stati na kraj praksi hi- tec kompanija da na vodeca mjesta u kompanijama dovode iskljucivo imigrante iz najzaostalijih drzava na svijetu ,umjesto amerikanaca, osiguravaju im radne dozvole i ekspresno dobijanje drzavljanstva a u cilju trovanja medjuljudskih odnosa u kompanijama i drustvu uopce.
Osoba o kojoj je rijec u clanku je tipican primjer takve prakse ,dovedena na mjesto sefa Human resources(ljudski resursi) ciji je posao uz gratanje mande, i spijavanje zaposlenih rukovodstvu i vodjenje njihovih dosijea.
Svaka slicnost sa politickim komesarom iz 50- ih proslog stoljeca je namjerna.

nekoime
Gost
nekoime
1 mjesec prije

Umjetna inteligencija podnijela zahtjev za prijem u Ku Klux Klan, Black Live Matter joj ide na neuronske čvorove.

Janoš
Gost
Janoš
1 mjesec prije

Ako nekakav sustav može sakupljati podatke koje kasnije koristi pri donošenju odluka, ne znači automatski da je inteligentan. Naziv AI ili UI (umjetna inteligencija) je pogrešan. Daleko su ti strojevi od inteligencije. Bilo bi ih bolje zvati strojevima koji samostalno odlučuju prema programima koji su napisali inteligentni ljudi. Ja tu vidim samo UMJETNO ali INTELIGENCIJU NE.

rnfviervuertguertbve
Gost
rnfviervuertguertbve
1 mjesec prije
Reply to  Janoš

Pa ono što je stvorilo umjetnu je jako inteligentno i za taj posao koji će umjetna raditi i ne treba inteligencija već samo obrada ogromne kolićine podataka po zadatoj zapovjedi.

shumadinac
Gost
shumadinac
1 mjesec prije
Reply to  Janoš

Tako je kolega!

Stara kuka
Gost
Stara kuka
1 mjesec prije
Reply to  Janoš

To ja govorim u svakoj mogućoj prilici kad krene razgovor o UI. Tako nešto ne postoji. Barem za sada. Sve su to samo algoritmi koji istina nekada mogu odavatidojam inteligencije, ali to ipak nisu.

.

Puž
Gost
Puž
1 mjesec prije

Mani se pisanja članaka autore ovog smijeha ….

rnfviervuertguertbve
Gost
rnfviervuertguertbve
1 mjesec prije

Kreator umjetne štiti svoje čedo.

Đuka
Gost
Đuka
1 mjesec prije

Da duboka država, NWO i elon musk te par milijardera njima trebaju takvi programi za manipuliranje i novo bogaćenje.

POVEZANE VIJESTI

Izbornik