Sudac u Las Vegasu izrekao je novčanu kaznu od 5.000 dolara odvjetniku koji je u pripremi obrane koristio ChatGPT — no prava je vijest ono što je umjetna inteligencija izmislila.
Odvjetnik Stephen Aarons predao je sudu podneske u kojima se pozivao na iskaze policajaca i svjedočenja osoba koje nikada nisu postojale. ChatGPT ih je jednostavno generirao. Nije riječ o tipfeleru ni o pogrešno citiranom dokumentu — riječ je o izmišljenim ljudima i izmišljenim izjavama ubačenima u pravni spis.
Kazna nije izrečena zato što je odvjetnik koristio alat. Izrečena je zato što nije provjerio ništa. Sudac je poručio da je problem odvjetnika koji se oslanjaju na halucinacije umjetne inteligencije gotovo svakodnevno u novinama. Aarons se branio da nije znao da ChatGPT može izmišljati, a svoj propust nazvao je „poštenom pogreškom”.
Isti scenarij, treći put
Ovo nije izoliran slučaj. Već 2023. odvjetnik je pred sudom citirao lažne presude koje mu je izmislio ChatGPT. Potom su uslijedile sankcije protiv odvjetnika koji su AI tretirali kao ravnopravnog člana tima, a jedno je suđenje zbog toga čak prekinuto. Obrasci se ponavljaju, ali odvjetničke komore ne uvode obveznu provjeru.
Ključno pitanje koje izvještaji preskaču: zašto odvjetnik koji polaže prisegu o poštenju prema sudu uopće smije predati dokument koji nije pročitao? ChatGPT na svakom ekranu upozorava da može griješiti i da važne informacije treba provjeriti. Aarons tvrdi da to nije znao. Sudac tome nije povjerovao.
Alat nije kriv, ali ni nevin
Umjetna inteligencija ne razumije što je istina. Ona generira tekst koji statistički izgleda uvjerljivo. U pravnom postupku to je kombinacija koja može uništiti nečiju obranu, a da nitko ne primijeti do završne riječi. Upravo zato je odgovornost na čovjeku koji potpisuje dokument, a ne na modelu koji ga je sastavio.
Sankcija od 5.000 dolara za odvjetnika koji je izmišljao dokaze djeluje gotovo simbolično. Predmet ide dalje disciplinskoj komisiji, no pravo pitanje ostaje otvoreno: koliko je još sudskih spisa u kojima se skrivaju svjedoci koji nikada nisu postojali — i koliko ih nitko nikada neće provjeriti?