fbpx

Google je propao u skandalu zbog AI pristranosti

Google

Istraživačica Timnit Gebru, sada bivša ko-šefica Google odjeljenja za etičku inteligenciju, kaže da je otpuštena nakon što su njene kolege od nje dobile e-poštu, gdje se „zalagala za nedovoljno zastupljene ljude“ u istraživanjima AI i među redovima kompanije uopšte.

Google je objasnio zašto je vrhunska istraživačica vještačke inteligencije napustila tehnološkog giganta nakon što je presuđeno da objavljivanje rada o važnom pitanju etike vještačke inteligencije, čija je koautorka, nije dozvoljeno.

Jeff Dean, Googleov šef AI-a, branio je odluku u internom e-mailu poslatom osoblju u četvrtak, rekavši da rad „nije ispunio uslove za objavljivanje“ i napomenuvši odlazak Timnit Gebru, koja je bila kopredsjednica tima AI Ethics u Google, uz odgovor na odbijanje kompanije iz Silicijumske doline da ispuni neke neodređene uslove koje je postavila za ostanak na svom položaju u kompaniji.

Timnit Gebru tvitovala je u srijedu uveče da je otpuštena zbog e-maila koji je poslala dan ranije zaposlenima u kompaniji.

U e-mailu izrazila je svoje razočaranje Googleovim odgovorom na napore nje i drugih zaposlenih da pojača zapošljavanje manjina i skrene pažnju na pristrasnost u vještačkoj inteligenciji uopšte.

“Vaš život počinje da se pogoršava kada počnete da se zalažete za nedovoljno zastupljene ljude. Druge lidere počinjete da uznemiravate”, navodi se u e-mailu. „Nema šanse da će više dokumenata ili više razgovora postići bilo šta“.

”Ućutkivanje marginalizovanih glasova”

U nastavku se žalila da unutar Googlea postoji “nula odgovornosti” oko tvrdnji kompanije da želi da poveća udio žena u svojim redovima. U e-mailu, koji je prvi put objavljen na Platformer, prikazana je i odluka da se njenom radu ne daje zeleno svjetlo kao dio procesa „ućutkivanja marginalizovanih glasova“.

U prošlosti je već bilo napetosti sa upravom Google zbog njenog zalaganja za veću raznolikost, po riječima jednog od Gebruinih kolega. Ipak, ostavljajući razloge po strani, uzrok njenog odlaska navodno je bila odluka kompanije da ne dozvoli objavljivanje istraživačkog rada čiji je koautor, rekla je ta osoba.

Dotični rad je proučio potencijalnu pristrasnost u sveobuhvatnim jezičkim modelima, zaista obećavajućem polju istraživanja prirodnog jezika, pri čemu sistemi poput OpenAI GPT-3 i Googleovog sopstvenog sistema Bert pokušavaju da predvide sljedeću riječ u bilo kom izgovoru.

„Neko u Googleu je odlučio da je to štetno za njihove interese“

Pristup je u osnovi efikasnih automatizovanih sistema za pisanje, a Google ga koristi za bolje razumijevanje izazovnih upita za pretragu. Tekstualni modeli, koji se oslanjaju na korpusnu lingvistiku, podstakli su zabrinutost da bi mogli automatski da apsorbuju rasne i druge pristrasnosti sadržane u materijalima za obuku koji su uglavnom izvedeni sa Interneta.

Prema riječima Emili Bender, profesorke računske lingvistike na Univerzitetu u Washingtonu, koja je vanjska koautorka rada, Gebru-in odlazak izgleda kao da je „neko u Google zaključio da je ovo štetno za njihove interese“.

„Akademska sloboda je veoma važna – postoje rizici kada se istraživanje odvija na mjestima koja nemaju tu akademsku slobodu“, nastavila je, nagađajući da ovo kompanijama ili vladama daje moć da „zatvore“ istraživanje koje oni ne odobravaju.

Bender je rekla da su se u njihovom konkretnom slučaju autori nadali da će rad dodatno ažurirati novijim istraživanjima na vrijeme kako bi bio prihvaćen na konferenciji kojoj će prisustvovati. Dodala je da je uobičajeno da takav rad zamijene novija istraživanja, s obzirom na to kako brzo napreduje rad na ovakvim poljima.

„U istraživačkoj literaturi nijedan rad nije savršen“, rekla je istraživačica.

Udarac u pouzdanost tehnologija

Isto tako, i sama Gebru se pozabavila osnovnim razlozima svog „otkaza“:

„…s količinom cenzure i zastrašivanja koja se nastavlja prema ljudima u određenim grupama, kako neko vjeruje da se može sprovesti neko pravo istraživanje u ovoj oblasti?“, Pitala se 37-godišnja istraživačica u jednom od svojih najnovijih tvitova.

Ugrađena pristrasnost

Gebruin odlazak iz Google izazvao je burne reakcije, ističući nagli porast napetosti između otvorenog osoblja kompanije i višeg rukovodstva, istovremeno izazivajući zabrinutost zbog napora kompanije da se izbori sa socijalnom nepravdom (uključujući navode o seksualnom uznemiravanju), kao i izgradnjom poštene i pouzdane tehnologija.

Konkretno, izražena je zabrinutost da bi ljudi koji dizajniraju sisteme vještačke inteligencije mogli da ugrade svoje predrasude u visoku tehnologiju.

New York Times je izvijestio da je tokom posljednjih nekoliko godina mnoštvo javnih eksperimenata pokazalo da sistemi umjetne inteligencije često različito komuniciraju sa ljudima sa drugom bojom kože – za šta se vjeruje da je uzrokovano njihovom nedovoljnom zastupljenošću među tehničkim specijalistima.

 

VAŽNA PORUKA ZA LOGIČARE

Vrijeme uvjeravanja prolazi. One koji ne shvaćaju što se događa, treba ignorirati i ne gubiti vrijeme na njih. Poštene, empatične i logične osobe se trebaju okupiti, bez obzira na osobna uvjerenja i svjetonazore. Osim raskrinkavanja, dolazi vrijeme djelovanja brojnim i legalnim sredstvima u gospodarstvu, zdravlju, autonomiji… U protivnom, sve će nas porobiti.

Pitate se što učiniti nakon čitanja ovog teksta? Jednostavno, šaljite i dijelite tekst poštenim, empatičnim i logičnim osobama. Informirajte bližnje o postojanju portala Logično. Priključite nam se na našem Telegram kanalu tako što ćete kliknuti na Vijesti.  Od danas možete komunicirati i pisati nam u Telegram grupi Zajednica. Budimo složni, mudri i jaki.

Svidio vam se članak i
pitate se što možete napraviti?
PODIJELITE ga s PRIJATELJIMA

*Stavovi izneseni u kolumnama su osobni stavovi autora i ne odražavaju nužno stav redakcije portala Logicno.com

Pretplati se
Obavijest
guest
Zaštitite svoje ime u komentarima... REGISTRACIJA
15 Komentara
najstariji
najnoviji najviše ocjenjeniji
Inline Feedbacks
View all comments
Stara kuka
Gost
Stara kuka
9 mjeseci prije

Odjeljenja za etičku inteligenciju??? …profesorke računske lingvistike??? ..mnoštvo javnih eksperimenata pokazalo da sistemi umjetne inteligencije često različito komuniciraju sa ljudima sa drugom bojom kože??? Nego, koliko sam ja shvatio “vrhunska istraživačica” je bila “šefica odjela” koji se bavio “etičkim pitanjima” prevedeno nametanjem političke korektnosti, rodne ravnopravnosti i multikulturalnosti u programska… Pročitaj više »

Darko
Gost
Darko
9 mjeseci prije
Reply to  Stara kuka

Šta se čudiš pa vidiš da Google je AI umjetna inteligencija koja daje otkaz svima ljudima ostat će neki na papiru reda samo. Google je Zlo
youtube.com/watch?v=WXuK6gekU1Y

Barrio
Gost
Barrio
9 mjeseci prije
Reply to  Stara kuka

Google je propao a meni tražilica još radi, Ako je stvarno propao ja bi ga kupio za male pare.

shumadinac
Gost
shumadinac
9 mjeseci prije

A, ne može tako vlasnici Gugla – vi bi da zapošljavate koga hoćete??? Izgleda da vam nije jasno da živite u kapitalizmu! Pokrećem peticiju da u Guglu svi zaposleni budu žene i to isključivo iz redova imigracije ali pod uslovom da će se u što kraćem roku odreći pola i… Pročitaj više »

Darko
Gost
Darko
9 mjeseci prije
Reply to  shumadinac

Šta se čudiš pa vidiš da Google je AI umjetna inteligencija koja daje otkaz svima ljudima ostat će neki na papiru reda samo. Google je Zlo
youtube.com/watch?v=W7wJDJ56c88

Mahatma
Gost
Mahatma
9 mjeseci prije

Ja mislim da Timnit ne razumije šta cenzura znači.

Mucke
Gost
Mucke
9 mjeseci prije

Potpuno je nezapazeno prosla informacija o tuzbi vladine administracije protiv FB kojom vlasti zele stati na kraj praksi hi- tec kompanija da na vodeca mjesta u kompanijama dovode iskljucivo imigrante iz najzaostalijih drzava na svijetu ,umjesto amerikanaca, osiguravaju im radne dozvole i ekspresno dobijanje drzavljanstva a u cilju trovanja medjuljudskih… Pročitaj više »

nekoime
Gost
nekoime
9 mjeseci prije

Umjetna inteligencija podnijela zahtjev za prijem u Ku Klux Klan, Black Live Matter joj ide na neuronske čvorove.

Janoš
Gost
Janoš
9 mjeseci prije

Ako nekakav sustav može sakupljati podatke koje kasnije koristi pri donošenju odluka, ne znači automatski da je inteligentan. Naziv AI ili UI (umjetna inteligencija) je pogrešan. Daleko su ti strojevi od inteligencije. Bilo bi ih bolje zvati strojevima koji samostalno odlučuju prema programima koji su napisali inteligentni ljudi. Ja tu… Pročitaj više »

rnfviervuertguertbve
Gost
rnfviervuertguertbve
9 mjeseci prije
Reply to  Janoš

Pa ono što je stvorilo umjetnu je jako inteligentno i za taj posao koji će umjetna raditi i ne treba inteligencija već samo obrada ogromne kolićine podataka po zadatoj zapovjedi.

shumadinac
Gost
shumadinac
9 mjeseci prije
Reply to  Janoš

Tako je kolega!

Stara kuka
Gost
Stara kuka
9 mjeseci prije
Reply to  Janoš

To ja govorim u svakoj mogućoj prilici kad krene razgovor o UI. Tako nešto ne postoji. Barem za sada. Sve su to samo algoritmi koji istina nekada mogu odavatidojam inteligencije, ali to ipak nisu.

.

Puž
Gost
Puž
9 mjeseci prije

Mani se pisanja članaka autore ovog smijeha ….

rnfviervuertguertbve
Gost
rnfviervuertguertbve
9 mjeseci prije

Kreator umjetne štiti svoje čedo.

Đuka
Gost
Đuka
9 mjeseci prije

Da duboka država, NWO i elon musk te par milijardera njima trebaju takvi programi za manipuliranje i novo bogaćenje.

POVEZANE VIJESTI

Izbornik