Cutremur în justiția indiană: un judecător a citat acte generate de AI. Cum încearcă instanțele să limiteze riscurile inteligenței artificiale

Un caz fără precedent zguduie sistemul judiciar din India, după ce hotărâri judecătorești inexistente, generate cu ajutorul inteligenței artificiale, au fost folosite într-un litigiu real. Incidentul, ajuns până la cea mai înaltă instanță, a declanșat reacții ferme și avertismente dure privind utilizarea AI în actul de justiție.

Cum a fost posibilă folosirea unor hotărâri fictive

Scandalul a pornit din statul Andhra Pradesh, unde un judecător civil junior din orașul Vijayawada a soluționat un litigiu imobiliar invocând patru decizii judiciare anterioare, potrivit BBC.

Ulterior, s-a demonstrat că respectivele hotărâri nu existau în realitate, fiind generate de un instrument de inteligență artificială, fără verificări suplimentare privind autenticitatea lor.

Instanța de fond respinsese obiecțiile pârâților pe baza acestor trimiteri, deși un funcționar desemnat anterior fusese însărcinat să inspecteze proprietatea disputată și să redacteze un raport.

Ce a decis Înalta Curte și cum a motivat eroarea

Pârâții au atacat hotărârea la Înalta Curte a statului, susținând că judecătorul s-a bazat pe documente false, aspect confirmat ulterior de instanță.

Totuși, judecătorii au apreciat că eroarea a fost comisă „cu bună-credință” și au menținut decizia, afirmând că „trimiterile pot fi inexistente, dar dacă instanța de fond a avut în vedere principiile corecte de drept, iar aplicarea lor la faptele cauzei este corectă, simpla menționare a unor hotărâri/trimiteri incorecte sau inexistente nu poate constitui un motiv pentru anularea deciziei”, relatează Antena3.

Judecătoarea implicată a explicat că era prima dată când utiliza un instrument AI și a crezut că referințele erau „autentice”, subliniind că „eroarea s-a produs exclusiv din cauza încrederii într-o sursă automată”.

De ce a intervenit Curtea Supremă a Indiei

Cazul a ajuns ulterior la Curtea Supremă a Indiei, care a calificat situația drept o problemă de „îngrijorare instituțională”, cu „un impact direct asupra integrității procesului de judecată”.

Instanța supremă a suspendat hotărârea și a precizat că folosirea AI în acest mod nu reprezintă doar „o eroare în luarea unei decizii”, ci un act de „abatere disciplinară”.

„Acest caz ridică o problemă instituțională semnificativă, nu din cauza soluției pronunțate pe fondul cauzei, ci din cauza procesului de judecată și de determinare a acesteia”, au subliniat judecătorii.

Ce semnale transmite cazul la nivel internațional

Curtea Supremă a notificat procurorul general și Baroul din India, avertizând asupra riscurilor acceptării documentelor generate de AI fără verificări riguroase.

Într-un alt dosar recent, instanța a criticat practica avocaților de a apela la astfel de instrumente, afirmând tranșant: „Este absolut nejustificat”.

Probleme similare au apărut și în alte jurisdicții, inclusiv în Statele Unite și Marea Britanie, unde instanțele au avertizat asupra invocării unor hotărâri fictive, generate artificial, în proceduri oficiale.