Obiezione, vostro onore: l’ha detto ChatGPT! Il caso nel distretto del Mississippi

Un giudice federale del Mississippi ha annullato un processo dopo che gli avvocati di entrambe le parti hanno utilizzato l'IA per includere precedenti legali inesistenti nei documenti. La corte ha sottolineato la responsabilità degli avvocati nell'uso dell'IA, evidenziando l'importanza della verifica accurata delle fonti. Questo caso mette in luce i rischi di affidarsi ciecamente all'intelligenza artificiale senza un controllo adeguato.

A volte l’errore più costoso in tribunale non inizia con la posizione delle parti, ma con un riferimento scarsamente verificato. Un giudice federale del Mississippi ha annullato un processo relativo ad una controversia contrattuale dopo aver scoperto che gli avvocati usavano l’intelligenza artificiale per citare precedenti legali inesistenti.

La controversia è sorta a causa dei servizi legali non retribuiti dell’avvocato Tom Withers in un conflitto con la città di Aberdeen nel Mississippi. Il problema è sorto nei materiali inviati, infatti gli avvocati di entrambe le parti hanno citato precedenti fittizi che sembravano decisioni reali ma che non esistevano nella realtà.

Il giudice distrettuale del Mississippi, Sharion Aycock, ha sospeso il caso, annullato l’udienza e rimosso tutti e quattro gli avvocati dal processo. A due di loro è stato vietato di comparire in questa corte per due anni. Tutti e quattro hanno ricevuto multe che andavano da 1.000 a 3.500 dollari, il cui importo dipendeva dal ruolo di ciascuna persona nell’archiviazione di documenti non verificati.

All’udienza, alcuni avvocati hanno ammesso l’uso diretto dell’AI, mentre gli altri hanno riferito di aver presentato materiali preparati utilizzando tali strumenti senza un’adeguata verifica. Kathleen Wilson ha dichiarato di aver utilizzato First Drafts per scrivere l’intero documento procedurale.

Katherine Williams ha utilizzato uno strumento di ricerca legale senza nome, sebbene il programma si concentrasse sulle giurisdizioni in cui operava solitamente la sua azienda e non fosse adattato alla legge del Mississippi.

Secondo i documenti del caso, altri giudici hanno trovato riferimenti giudiziari fittizi nei suoi documenti dopo l’udienza di gennaio su questa controversia. E’ stato anche  scoperto che alcuni avvocati continuavano la pratica pericolosa anche se erano già a conoscenza della delicatezza e della violazione.

La corte ha dimostrato che gli avvocati sono responsabili, anche se l’errore è stato causato dal programma. Quando si lavora con l’intelligenza artificiale, è importante verificare ogni dato fornito, ogni decisione del tribunale e ogni posizione legale, piuttosto che copiare ed incollare in documenti senza controllo.

Carolina Vivianti

Carolina Vivianti è consulente/Advisor autonomo in sicurezza informatica con esperienza nel settore tech e security. Ha lavorato come Security Advisor per Ford EU/Ford Motor Company e Vodafone e ha studi presso la Sapienza Università di Roma.

Aree di competenza: Cybersecurity, IT Risk Management, Security Advisory, Threat Analysis, Data Protection, Cloud Security, Compliance & Governance