Red Hot Cyber
La cybersecurity è condivisione. Riconosci il rischio, combattilo, condividi le tue esperienze ed incentiva gli altri a fare meglio di te.
Cerca

Gli Avvocati Statunitensi Nei Guai Per l’intelligenza Artificiale. “Stava inventando casi inesistenti”

Redazione RHC : 15 Febbraio 2025 16:13

Il tribunale della contea di Wyoming ha chiesto una spiegazione da un gruppo di avvocati che hanno presentato alla corte falsi precedenti legali.

Si è scoperto che gli avvocati utilizzavano l’intelligenza artificiale per preparare i documenti, ma il sistema generava casi inesistenti andando in Allucinazione.

La causa legale contro Walmart e Jetson Electronic Bikes, Inc. è stata archiviata di nuovo nel 2023. Gli attori, una famiglia di sei persone, sostengono che la batteria di un hoverboard agli ioni di litio acquistato da Walmart ha preso fuoco durante la notte, distruggendo la loro casa e causando gravi lesioni. Nel gennaio 2024, gli avvocati hanno presentato una mozione per escludere alcune prove, citando otto decisioni giudiziarie che in realtà non sono mai esistite.

Vuoi diventare un esperto del Dark Web e della Cyber Threat Intelligence (CTI)?
Stiamo per avviare il corso intermedio in modalità "Live Class", previsto per febbraio.
A differenza dei corsi in e-learning, disponibili online sulla nostra piattaforma con lezioni pre-registrate, i corsi in Live Class offrono un’esperienza formativa interattiva e coinvolgente.
Condotti dal professor Pietro Melillo, le lezioni si svolgono online in tempo reale, permettendo ai partecipanti di interagire direttamente con il docente e approfondire i contenuti in modo personalizzato. Questi corsi, ideali per aziende, consentono di sviluppare competenze mirate, affrontare casi pratici e personalizzare il percorso formativo in base alle esigenze specifiche del team, garantendo un apprendimento efficace e immediatamente applicabile.
Per ulteriori informazioni, scrivici ad [email protected] oppure scrivici su Whatsapp al 379 163 8765 

Supporta RHC attraverso:


Ti piacciono gli articoli di Red Hot Cyber? Non aspettare oltre, iscriviti alla newsletter settimanale per non perdere nessun articolo.

Il giudice ha osservato che i casi in questione non erano presenti nel database di Westlaw né erano elencati nel sistema elettronico dei tribunali del Wyoming e ha chiesto agli avvocati di spiegare come fossero sorti tali collegamenti.

Gli avvocati hanno subito ammesso il loro errore e dichiarato che “la loro piattaforma di intelligenza artificiale interna stava allucinando e ‘immaginando’ i casi quando aiutava l’avvocato a redigere la mozione” . Gli avvocati hanno aggiunto che il caso ha scatenato discussioni sul controllo e l’uso dell’intelligenza artificiale all’interno del loro studio.

Casi simili si sono già verificati in passato. Nel 2023, gli avvocati dell’attore nel caso contro la compagnia aerea Avianca ha fatto riferimento a precedenti inesistenti, creati da ChatGPT. Quando il tribunale scoprì la falsificazione, gli avvocati non ammisero immediatamente l’errore, ma continuarono a difendere le citazioni fittizie, per le quali vennero multati di 5.000 dollari.

E nel 2024, l’avvocato Michael Cohen ha fornito link falsi sui casi forniti dal chatbot Gemini. Sebbene in questo caso non fosse prevista alcuna punizione, il giudice ha definito la situazione “ridicola e vergognosa”.

L’uso dell’intelligenza artificiale in campo legale continua a prendere piede, ma incidenti come questi dimostrano che senza un’adeguata supervisione la tecnologia può avere gravi conseguenze, tra cui sanzioni e interdizione degli avvocati.

Ricordiamo sempre che l’intelligenza artificiale non riescono ad andare al di sotto del 20-30% di allucinazioni. Questo vuol dire che su dieci informazioni fornite dall’intelligenza artificiale due o tre possono essere a rischio in quanto fornire fuorviando le informazioni presenti su base statistiche.

Bisogna sempre ribattere i contenuti forniti dall’intelligenza artificiale per essere certi che non ci siano state allucinazioni nel processo di inferenza.

Redazione
La redazione di Red Hot Cyber è composta da un insieme di persone fisiche e fonti anonime che collaborano attivamente fornendo informazioni in anteprima e news sulla sicurezza informatica e sull'informatica in generale.

Lista degli articoli

Articoli in evidenza

Skitnet: Il Malware che Sta Conquistando il Mondo del Ransomware

Gli esperti hanno lanciato l’allarme: i gruppi ransomware stanno utilizzando sempre più spesso il nuovo malware Skitnet (noto anche come Bossnet) per lo sfruttamento successivo delle ...

Bypass di Microsoft Defender mediante Defendnot: Analisi Tecnica e Strategie di Mitigazione

Nel panorama delle minacce odierne, Defendnot rappresenta un sofisticato malware in grado di disattivare Microsoft Defender sfruttando esclusivamente meccanismi legittimi di Windows. A differenza di a...

Falso Mito: Se uso una VPN, sono completamente al sicuro anche su reti WiFi Aperte e non sicure

Molti credono che l’utilizzo di una VPN garantisca una protezione totale durante la navigazione, anche su reti WiFi totalmente aperte e non sicure. Sebbene le VPN siano strumenti efficaci per c...

In Cina il CNVD premia i migliori ricercatori di sicurezza e la collaborazione tra istituzioni e aziende

Durante una conferenza nazionale dedicata alla sicurezza informatica, sono stati ufficialmente premiati enti, aziende e professionisti che nel 2024 hanno dato un contributo significativo al National I...

Quando l’MFA non basta! Abbiamo Violato il Login Multi-Fattore Per Capire Come Difenderci Meglio

Nel mondo della cybersecurity esiste una verità scomoda quanto inevitabile: per difendere davvero qualcosa, bisogna sapere come violarlo. L’autenticazione multi-fattore è una delle co...