Gli Avvocati Statunitensi Nei Guai Per l’intelligenza Artificiale. “Stava inventando casi inesistenti”
Il tribunale della contea di Wyoming ha chiesto una spiegazione da un gruppo di avvocati che hanno presentato alla corte falsi precedenti legali.
Si è scoperto che gli avvocati utilizzavano l’intelligenza artificiale per preparare i documenti, ma il sistema generava casi inesistenti andando in Allucinazione.
La causa legale contro Walmart e Jetson Electronic Bikes, Inc. è stata archiviata di nuovo nel 2023. Gli attori, una famiglia di sei persone, sostengono che la batteria di un hoverboard agli ioni di litio acquistato da Walmart ha preso fuoco durante la notte, distruggendo la loro casa e causando gravi lesioni. Nel gennaio 2024, gli avvocati hanno presentato una mozione per escludere alcune prove, citando otto decisioni giudiziarie che in realtà non sono mai esistite.
Il giudice ha osservato che i casi in questione non erano presenti nel database di Westlaw né erano elencati nel sistema elettronico dei tribunali del Wyoming e ha chiesto agli avvocati di spiegare come fossero sorti tali collegamenti.
Gli avvocati hanno subito ammesso il loro errore e dichiarato che “la loro piattaforma di intelligenza artificiale interna stava allucinando e ‘immaginando’ i casi quando aiutava l’avvocato a redigere la mozione” . Gli avvocati hanno aggiunto che il caso ha scatenato discussioni sul controllo e l’uso dell’intelligenza artificiale all’interno del loro studio.
Casi simili si sono già verificati in passato. Nel 2023, gli avvocati dell’attore nel caso contro la compagnia aerea Avianca ha fatto riferimento a precedenti inesistenti, creati da ChatGPT. Quando il tribunale scoprì la falsificazione, gli avvocati non ammisero immediatamente l’errore, ma continuarono a difendere le citazioni fittizie, per le quali vennero multati di 5.000 dollari.
E nel 2024, l’avvocato Michael Cohen ha fornito link falsi sui casi forniti dal chatbot Gemini. Sebbene in questo caso non fosse prevista alcuna punizione, il giudice ha definito la situazione “ridicola e vergognosa”.
L’uso dell’intelligenza artificiale in campo legale continua a prendere piede, ma incidenti come questi dimostrano che senza un’adeguata supervisione la tecnologia può avere gravi conseguenze, tra cui sanzioni e interdizione degli avvocati.
Ricordiamo sempre che l’intelligenza artificiale non riescono ad andare al di sotto del 20-30% di allucinazioni. Questo vuol dire che su dieci informazioni fornite dall’intelligenza artificiale due o tre possono essere a rischio in quanto fornire fuorviando le informazioni presenti su base statistiche.
Bisogna sempre ribattere i contenuti forniti dall’intelligenza artificiale per essere certi che non ci siano state allucinazioni nel processo di inferenza.
Ti è piaciuto questo articolo? Ne stiamo discutendo nella nostra Community su LinkedIn, Facebook e Instagram. Seguici anche su Google News, per ricevere aggiornamenti quotidiani sulla sicurezza informatica o Scrivici se desideri segnalarci notizie, approfondimenti o contributi da pubblicare.
La Redazione di Red Hot Cyber fornisce aggiornamenti quotidiani su
bug,
data breach e
minacce globali. Ogni contenuto è validato dalla nostra community di esperti come
Pietro Melillo,
Massimiliano Brolli,
Sandro Sana,
Olivia Terragni e
Stefano Gazzella.
Grazie alla sinergia con i nostri
Partner leader nel settore (tra cui
Accenture,
CrowdStrike,
Trend Micro e
Fortinet), trasformiamo la complessità tecnica in consapevolezza collettiva, garantendo un'informazione accurata basata sull'analisi di fonti primarie e su una rigorosa
peer-review tecnica.
