Google je propao u skandalu zbog AI pristranosti

Google
15 komentara

Istraživačica Timnit Gebru, sada bivša ko-šefica Google odjeljenja za etičku inteligenciju, kaže da je otpuštena nakon što su njene kolege od nje dobile e-poštu, gdje se „zalagala za nedovoljno zastupljene ljude“ u istraživanjima AI i među redovima kompanije uopšte.

Google je objasnio zašto je vrhunska istraživačica vještačke inteligencije napustila tehnološkog giganta nakon što je presuđeno da objavljivanje rada o važnom pitanju etike vještačke inteligencije, čija je koautorka, nije dozvoljeno.

Jeff Dean, Googleov šef AI-a, branio je odluku u internom e-mailu poslatom osoblju u četvrtak, rekavši da rad „nije ispunio uslove za objavljivanje“ i napomenuvši odlazak Timnit Gebru, koja je bila kopredsjednica tima AI Ethics u Google, uz odgovor na odbijanje kompanije iz Silicijumske doline da ispuni neke neodređene uslove koje je postavila za ostanak na svom položaju u kompaniji.

Timnit Gebru tvitovala je u srijedu uveče da je otpuštena zbog e-maila koji je poslala dan ranije zaposlenima u kompaniji.

U e-mailu izrazila je svoje razočaranje Googleovim odgovorom na napore nje i drugih zaposlenih da pojača zapošljavanje manjina i skrene pažnju na pristrasnost u vještačkoj inteligenciji uopšte.

“Vaš život počinje da se pogoršava kada počnete da se zalažete za nedovoljno zastupljene ljude. Druge lidere počinjete da uznemiravate”, navodi se u e-mailu. „Nema šanse da će više dokumenata ili više razgovora postići bilo šta“.

”Ućutkivanje marginalizovanih glasova”

U nastavku se žalila da unutar Googlea postoji “nula odgovornosti” oko tvrdnji kompanije da želi da poveća udio žena u svojim redovima. U e-mailu, koji je prvi put objavljen na Platformer, prikazana je i odluka da se njenom radu ne daje zeleno svjetlo kao dio procesa „ućutkivanja marginalizovanih glasova“.

U prošlosti je već bilo napetosti sa upravom Google zbog njenog zalaganja za veću raznolikost, po riječima jednog od Gebruinih kolega. Ipak, ostavljajući razloge po strani, uzrok njenog odlaska navodno je bila odluka kompanije da ne dozvoli objavljivanje istraživačkog rada čiji je koautor, rekla je ta osoba.

Dotični rad je proučio potencijalnu pristrasnost u sveobuhvatnim jezičkim modelima, zaista obećavajućem polju istraživanja prirodnog jezika, pri čemu sistemi poput OpenAI GPT-3 i Googleovog sopstvenog sistema Bert pokušavaju da predvide sljedeću riječ u bilo kom izgovoru.

„Neko u Googleu je odlučio da je to štetno za njihove interese“

Pristup je u osnovi efikasnih automatizovanih sistema za pisanje, a Google ga koristi za bolje razumijevanje izazovnih upita za pretragu. Tekstualni modeli, koji se oslanjaju na korpusnu lingvistiku, podstakli su zabrinutost da bi mogli automatski da apsorbuju rasne i druge pristrasnosti sadržane u materijalima za obuku koji su uglavnom izvedeni sa Interneta.

Prema riječima Emili Bender, profesorke računske lingvistike na Univerzitetu u Washingtonu, koja je vanjska koautorka rada, Gebru-in odlazak izgleda kao da je „neko u Google zaključio da je ovo štetno za njihove interese“.

„Akademska sloboda je veoma važna – postoje rizici kada se istraživanje odvija na mjestima koja nemaju tu akademsku slobodu“, nastavila je, nagađajući da ovo kompanijama ili vladama daje moć da „zatvore“ istraživanje koje oni ne odobravaju.

Bender je rekla da su se u njihovom konkretnom slučaju autori nadali da će rad dodatno ažurirati novijim istraživanjima na vrijeme kako bi bio prihvaćen na konferenciji kojoj će prisustvovati. Dodala je da je uobičajeno da takav rad zamijene novija istraživanja, s obzirom na to kako brzo napreduje rad na ovakvim poljima.

„U istraživačkoj literaturi nijedan rad nije savršen“, rekla je istraživačica.

Udarac u pouzdanost tehnologija

Isto tako, i sama Gebru se pozabavila osnovnim razlozima svog „otkaza“:

„…s količinom cenzure i zastrašivanja koja se nastavlja prema ljudima u određenim grupama, kako neko vjeruje da se može sprovesti neko pravo istraživanje u ovoj oblasti?“, Pitala se 37-godišnja istraživačica u jednom od svojih najnovijih tvitova.

Ugrađena pristrasnost

Gebruin odlazak iz Google izazvao je burne reakcije, ističući nagli porast napetosti između otvorenog osoblja kompanije i višeg rukovodstva, istovremeno izazivajući zabrinutost zbog napora kompanije da se izbori sa socijalnom nepravdom (uključujući navode o seksualnom uznemiravanju), kao i izgradnjom poštene i pouzdane tehnologija.

Konkretno, izražena je zabrinutost da bi ljudi koji dizajniraju sisteme vještačke inteligencije mogli da ugrade svoje predrasude u visoku tehnologiju.

New York Times je izvijestio da je tokom posljednjih nekoliko godina mnoštvo javnih eksperimenata pokazalo da sistemi umjetne inteligencije često različito komuniciraju sa ljudima sa drugom bojom kože – za šta se vjeruje da je uzrokovano njihovom nedovoljnom zastupljenošću među tehničkim specijalistima.

 

AIGoogleskandal
Pretplatiti se
Obavijesti o
15 Komentari
Najstariji
Najnoviji Najviše komentiran
Inline povratne informacije
Pogledaj sve komentare
Stara kuka
3 godine prije

Odjeljenja za etičku inteligenciju??? …profesorke računske lingvistike??? ..mnoštvo javnih eksperimenata pokazalo da sistemi umjetne inteligencije često različito komuniciraju sa ljudima sa drugom bojom kože??? Nego, koliko sam ja shvatio “vrhunska istraživačica” je bila “šefica odjela” koji se bavio “etičkim pitanjima” prevedeno nametanjem političke korektnosti, rodne ravnopravnosti i multikulturalnosti u programska rješenja ali i “popravljanjem” “rodne”, etničke i rasne strukture dobro plaćenog Googleovog kadra. Spomenuta “vrhunska istraživačica” kaže da je otpuštena zbog maila u kojem je “izrazila svoje razočaranje Googleovim odgovorom na napore nje i drugih zaposlenih da pojača zapošljavanje manjina i skrene pažnju na pristrasnost u vještačkoj inteligenciji uopšte.” A u nastavku se žalila da unutar Googlea postoji “nula odgovornosti” oko tvrdnji kompanije da želi da poveća udio žena u svojim redovima, a prikazana je i odluka da se njenom radu ne daje zeleno svjetlo kao dio procesa „ućutkivanja marginalizovanih glasova“. Naravno njen rad nije dobio zeleno svjetlo samo zato… Čitaj više »

shumadinac
3 godine prije

A, ne može tako vlasnici Gugla – vi bi da zapošljavate koga hoćete??? Izgleda da vam nije jasno da živite u kapitalizmu!
Pokrećem peticiju da u Guglu svi zaposleni budu žene i to isključivo iz redova imigracije ali pod uslovom da će se u što kraćem roku odreći pola i postati nešto…bespolno…

Mahatma
3 godine prije

Ja mislim da Timnit ne razumije šta cenzura znači.

Mucke
3 godine prije

Potpuno je nezapazeno prosla informacija o tuzbi vladine administracije protiv FB kojom vlasti zele stati na kraj praksi hi- tec kompanija da na vodeca mjesta u kompanijama dovode iskljucivo imigrante iz najzaostalijih drzava na svijetu ,umjesto amerikanaca, osiguravaju im radne dozvole i ekspresno dobijanje drzavljanstva a u cilju trovanja medjuljudskih odnosa u kompanijama i drustvu uopce.
Osoba o kojoj je rijec u clanku je tipican primjer takve prakse ,dovedena na mjesto sefa Human resources(ljudski resursi) ciji je posao uz gratanje mande, i spijavanje zaposlenih rukovodstvu i vodjenje njihovih dosijea.
Svaka slicnost sa politickim komesarom iz 50- ih proslog stoljeca je namjerna.

nekoime
3 godine prije

Umjetna inteligencija podnijela zahtjev za prijem u Ku Klux Klan, Black Live Matter joj ide na neuronske čvorove.

Janoš
3 godine prije

Ako nekakav sustav može sakupljati podatke koje kasnije koristi pri donošenju odluka, ne znači automatski da je inteligentan. Naziv AI ili UI (umjetna inteligencija) je pogrešan. Daleko su ti strojevi od inteligencije. Bilo bi ih bolje zvati strojevima koji samostalno odlučuju prema programima koji su napisali inteligentni ljudi. Ja tu vidim samo UMJETNO ali INTELIGENCIJU NE.

Puž
3 godine prije

Mani se pisanja članaka autore ovog smijeha ….

3 godine prije zadnji put uredio Puž
rnfviervuertguertbve
3 godine prije

Kreator umjetne štiti svoje čedo.

© 2023 – Portal Logično

POVEZANE VIJESTI