Judecătoarea Amendă Avocații Pentru Folosirea de Cercetări Juridice Falsificate Generate de AI

Un judecător american a criticat dur două firme de avocatură pentru includerea într-un dosar de instanță a unor informații juridice false generate de AI, numindu-l un eșec major în responsabilitatea legală.

Judecătorul Michael Wilner, cu sediul în California, a amendat firmele cu 31,000 de dolari după ce a descoperit că rezumatul a fost plin de “citații și citate juridice false, inexacte și înșelătoare”, așa cum a fost relatat inițial de WIRED.

„Niciun avocat competent nu ar trebui să externalizeze cercetarea și scrierea” către AI, a scris Wilner în hotărârea sa, avertizând că era aproape să includă cazurile false într-o ordonanță judecătorească.

„Am citit pledoaria lor, am fost convinsă (sau cel puțin intrigată) de autoritățile pe care le-au citat și am căutat deciziile pentru a afla mai multe despre ele – doar pentru a descoperi că nu existau”, a spus el, așa cum a fost raportat de WIRED. „Este înfricoșător”, a adăugat el.

Situatia a apărut în timpul unui proces civil împotriva State Farm. Un avocat a folosit instrumente AI pentru a elabora un plan juridic. Acel document, conținând cercetări false, a fost înmânat firmei de avocatură mai mari K&L Gates, care l-a adăugat la un dosar oficial.

“Niciun avocat sau membru al personalului de la nicio firmă nu a verificat sau altfel a revizuit acea cercetare înainte de depunerea pledoariei”, a observat Wilner, așa cum a fost raportat de WIRED.

După ce a descoperit că cel puțin două dintre cazurile citate erau complet inventate, Judecătoarea Wilner a cerut firmei K&L Gates clarificări. Când aceștia au prezentat o nouă versiune, s-a dovedit că includea și mai multe citări false. Judecătoarea a cerut o explicație, care a dezvăluit declarații jurate care recunoșteau folosirea unor instrumente AI, așa cum a relatat WIRED..

Wilner a concluzionat: “Utilizarea inițială, nedeclarată, a produselor AI pentru a genera prima versiune a pledoariei a fost pur și simplu greșită […] Și trimiterea acelui material altor avocați fără a dezvălui originile sale dubioase AI a pus în mod real acei profesioniști în pericol,” așa cum a relatat WIRED.

Aceasta nu este prima dată când AI a cauzat probleme în sălile de judecată. De fapt, doi avocați din Wyoming au recunoscut recent că au folosit cazuri generate fals de AI într-o depunere de acțiune în instanță împotriva Walmart. Un judecător federal a amenințat că îi va sancționa de asemenea.

În acest scenariu, „halucinațiile” AI – informații confecționate generate de instrumentele AI – devin o preocupare tot mai mare în sistemul juridic.