Red Hot Cyber
Sicurezza Informatica, Notizie su Cybercrime, Analisi Vulnerabilità e Intelligenza Artificiale
Un avvocato del Nuovo Messico ha usato ChatGPT per preparare un ricorso penale, ma l’IA ha inventato quattro testimoni, dichiarazioni, minacce e dettagli mai presenti negli atti. L’avvocato non ha verificato il documento prima di depositarlo ed è stato multato 5.000 dollari e sospeso dalla Corte Suprema.
La Corte Suprema dello stato del Nuovo Messico ha riconosciuto colpevole l’avvocato Steven Aarons di oltraggio alla corte e lo ha multato di 5000 dollari dopo che un’appello in un caso di omicidio ha incluso testimoni e dichiarazioni inventate da ChatGPT.
Il caso si è rivelato significativamente più grave rispetto alle consuete storie di precedenti giudiziari inventati dall’IA. La rete neurale ha effettivamente riscritto i materiali del caso penale, e l’avvocato ha inviato il risultato al tribunale senza verificarlo.
Secondo la sentenza del 9 settembre, Aarons rappresentava Oscar Rene Sandoval, condannato all’ergastolo per l’omicidio della madre dei suoi figli. Nella preparazione del ricorso principale, l’avvocato ha utilizzato ChatGPT, dopodiché il documento ha incluso informazioni che non esistevano nei materiali del processo.
Il tribunale ha elencato quattro personaggi completamente inventati, tra cui due presunti agenti di polizia, Officer Michelle Amarillo e Officer Sanchez, nonché Manal Al-Jibury e Teresa Marquez. ChatGPT ha attribuito false dichiarazioni anche ai reali partecipanti al processo. Nel documento sono apparse minacce inesistenti rivolte a Danny Stanton e Linda Stanton, nonché racconti inventati di Mariah Chavez e della inesistente Teresa Marquez riguardo all’aspetto e all’abbigliamento del tiratore. Inoltre, l’avvocato ha esposto in modo errato il contenuto di due reali precedenti giudiziari.
Aarons ha ammesso di non aver verificato né le affermazioni fattuali né i riferimenti giuridici prima di firmare e inviare il documento. Il cliente non sapeva nemmeno che il ricorso contenesse informazioni false. In seguito, l’avvocato non ha informato Sandoval nemmeno dell’avvio del procedimento riguardante il documento stesso.
Durante l’udienza del 21 agosto, Aarons ha spiegato di aver ricevuto una trascrizione informatica del processo, aggiunto i materiali del caso, un elenco di questioni controverse e parte delle prove, per poi caricare l’insieme di documenti su ChatGPT. Si aspettava di ottenere un «riassunto impeccabile» del processo giudiziario. Secondo Aarons, la trascrizione originale l’aveva verificata e il problema era sorto solo dopo l’elaborazione dei materiali da parte della rete neurale.
Aarons ha anche dichiarato di non aver compreso, in quel momento, fino a che punto l’IA generativa fosse in grado di allucinare e creare fatti plausibili che non erano mai esistiti. La spiegazione non ha convinto la giudice Shannon Bacon. Durante l’udienza, gli è stato chiesto se avesse mai letto le notizie riguardo a sotrie di avvocati che hanno presentato cause con contenuti inventati dall’AI.
Bacon ha paragonato ChatGPT a un dipendente inesperto di uno studio legale. Se un giovane avvocato avesse semplicemente inventato dei fatti e il superiore avesse firmato il documento preparato, la responsabilità sarebbe comunque ricaduta sull’avvocato firmatario. I giudici hanno quindi respinto l’argomento secondo cui la corte non aveva preliminarmente obbligato i partecipanti al processo a verificare separatamente i materiali creati dall’IA.
Le conseguenze non si sono limitate alla multa. La Corte Suprema ha vietato ad Aarons di comparire davanti a essa fino alla conclusione del procedimento disciplinare, ha inviato i materiali alla commissione disciplinare dell’ordine degli avvocati e ha escluso dal caso tutti i documenti processuali precedentemente presentati. La difesa di Sandoval è stata affidata al servizio statale di difesa d’ufficio, dopodiché l’appello dovrà essere preparato nuovamente. La corte prevede di esaminare il caso nel periodo 2026-2027.
Lo stesso Aarons, dopo la decisione, ha definito l’accaduto un errore e ha dichiarato di essersene pentito. La corte è giunta a una valutazione opposta e ha direttamente indicato nella sentenza l’«assenza di pentimento» e la cura insufficiente dell’avvocato per gli interessi del cliente. Ulteriori sanzioni potranno ora essere determinate dalla commissione disciplinare.
Le storie con materiali inventati dall’IA generativa perseguitano il settore legale già da diversi anni. Nel 2023, due avvocati di New York hanno ricevuto multe da 5000 dollari ciascuno dopo la presentazione di documenti con sei decisioni giudiziarie che non erano mai esistite. In seguito, casi analoghi sono apparsi nei tribunali di diversi paesi, e gli avvocati hanno regolarmente spiegato gli errori affermando di non sapere della capacità dei modelli linguistici di inventare le fonti.
Il caso nel Nuovo Messico mostra un livello diverso di rischio. La verifica delle sole citazioni dei precedenti giudiziari non salva più quando il modello riceve i materiali reali del caso e poi inizia a inventare il contenuto all’interno del processo stesso. Un testimone inesistente non può essere scoperto con una semplice ricerca di un link errato. Nel lavorare con un caso penale, ogni affermazione deve essere confrontata con la trascrizione originale e i materiali del tribunale, indipendentemente da quanto convincente appaia il testo preparato dall’IA.
Sono ufficialmente aperte le adesioni al Program Sponsor della Red Hot Cyber Conference 2027, la sesta edizione dell’evento annuale gratuito promosso dalla community di Red Hot Cyber per diffondere cultura, competenze e consapevolezza sui temi della cybersecurity, dell’innovazione e delle tecnologie digitali. La Conference si terrà a Roma, martedì 18 e mercoledì 19 maggio 2027, presso l’Auditorium del Seraphicum, nel cuore del quartiere EUR, con una giornata dedicata ai workshop pratici e alle attività tecniche e una seconda giornata interamente dedicata alla conferenza.
Anche per il 2027, le aziende potranno scegliere di sostenere concretamente il progetto attraverso il Program Sponsor, partecipando alla crescita di un appuntamento che mette in relazione professionisti, aziende, istituzioni, studenti, ricercatori e appassionati di tecnologia. Il programma prevede la possibilità di aderire come Sponsor Sostenitore, una formula pensata per le aziende che desiderano essere tra le prime realtà a credere e contribuire alla realizzazione della nuova edizione, oppure attraverso i tre consueti livelli di sponsorizzazione Platinum, Gold e Silver. Ogni livello di sponsorizzazione acquistato, sarà accompagnato da un pacchetto Advertising, con l'opportunità di visibilità attraverso articoli, banner e contenuti all’interno del circuito editoriale di Red Hot Cyber.
Le aziende interessate a conoscere le formule disponibili, il Media Kit e tutte le opportunità previste dal Program Sponsor 2027 possono richiedere informazioni scrivendo a [email protected].