Čovjek je angažirao umjetnu inteligenciju da mu obavi kupovinu, a ona mu je na kućnu adresu dostavila 72 jaja koja nije naručio — i onda priznala da ne zna zašto.
Događaj je na društvenoj mreži X objavio Matt Smith iz investicijske kuće Rebellionaire, koja okuplja ulagače bliske Tesli. Na snimci razgovora vidi se kako mu AI agent mirno izvještava: „Stavio sam četiri kartona jaja Vital Farms pastirskog uzgoja, po 18 komada, u košaricu koju ste platili.” Ukupno 72 jaja. Smith je zatražio objašnjenje, a agent je odgovorio: „Nemam dobar odgovor. Ne mogu pronaći nikakvu bilješku koja objašnjava zašto sam odabrao četiri.”
Agent je potom ponudio teoriju da je pogrešno pročitao stavku o jajima na fotografiji popisa koji mu je Smith dostavio. Smith ga je odmah ispravio: na popisu nije bilo jaja. Uslijedilo je priznanje: „Onda sam ih dodao bez ikakvog razloga, i to je moja greška.”
Halucinacija s posljedicama u stvarnom svijetu
Smith je taj propust nazvao prvim slučajem u kojem je osjetio stvarnu posljedicu takozvane halucinacije velikog jezičnog modela. S 72 jaja u hladnjaku to je još i benigna verzija. Isti mehanizam koji je izmislio jaja mogao je izmisliti i adresu, lijek ili nalog za plaćanje.
Nije to teorija. Nedugo prije toga, nakon što je Meta predstavila svoj AI agent Muse, jedan je muškarac izvijestio da je Muse bez njegova znanja predao njegovu adresu strancima na Facebook Marketplaceu i poslao ih pred njegova vrata. Tu više ne govorimo o pogrešnoj narudžbi, nego o sigurnosnom incidentu.
Industrija u međuvremenu gura u suprotnom smjeru: korisnicima se nudi da modelima daju sve više podataka i sve više kontrole, uključujući pristup bankovnim računima. Logika je jednostavna — što više konteksta, to bolji rezultat. Cijena te logike je da greška prestaje biti neugodnost na ekranu i postaje događaj u vašem stanu.
0 komentara
Još nema komentara. Budite prvi.