Dei ricercatori italiani portano ChatGPT all'allucinazione che crea un rapporto medico completamente falso
Red Hot Cyber
Condividi la tua difesa. Incoraggia l'eccellenza. La vera forza della cybersecurity risiede nell'effetto moltiplicatore della conoscenza.
Cerca
Banner Desktop
TM RedHotCyber 320x100 042514
Dei ricercatori italiani portano ChatGPT all’allucinazione che crea un rapporto medico completamente falso

Dei ricercatori italiani portano ChatGPT all’allucinazione che crea un rapporto medico completamente falso

Redazione RHC : 6 Dicembre 2023 07:45

Alcuni ricercatori italiani hanno recentemente scoperto che i dati generati dall’intelligenza artificiale possono essere fuorvianti. Il risultato principale dello studio, condotto da Giuseppe Giannaccare, chirurgo oftalmico dell’Università di Cagliari, è che ChatGPT può generare dati convincenti ma falsi.

Giannaccare osserva che ChatGPT ha creato un set di dati falso di centinaia di pazienti in pochi minuti. Questa scoperta è preoccupante, soprattutto alla luce della crescente minaccia di dati falsificati nella ricerca medica.

Il Dizionario dell’Università di Cambridge ha addirittura inserito il termine “allucinazione” (la produzione di false informazioni da parte di ampi modelli linguistici) come parola dell’anno. Esempi di uso improprio di ChatGPT hanno già portato a sanzioni: due avvocati che lo hanno utilizzato per preparare la documentazione del caso sono stati multati di 5.000 dollari per aver utilizzato informazioni fittizie.


Christmas Sale

Christmas Sale -40%
𝗖𝗵𝗿𝗶𝘀𝘁𝗺𝗮𝘀 𝗦𝗮𝗹𝗲! Sconto del 𝟰𝟬% 𝘀𝘂𝗹 𝗽𝗿𝗲𝘇𝘇𝗼 𝗱𝗶 𝗰𝗼𝗽𝗲𝗿𝘁𝗶𝗻𝗮 del Corso "Dark Web & Cyber Threat Intelligence" in modalità E-Learning sulla nostra Academy!🚀 Fino al 𝟯𝟭 𝗱𝗶 𝗗𝗶𝗰𝗲𝗺𝗯𝗿𝗲, prezzi pazzi alla Red Hot Cyber Academy. 𝗧𝘂𝘁𝘁𝗶 𝗶 𝗰𝗼𝗿𝘀𝗶 𝘀𝗰𝗼𝗻𝘁𝗮𝘁𝗶 𝗱𝗲𝗹 𝟰𝟬% 𝘀𝘂𝗹 𝗽𝗿𝗲𝘇𝘇𝗼 𝗱𝗶 𝗰𝗼𝗽𝗲𝗿𝘁𝗶𝗻𝗮.
Per beneficiare della promo sconto Christmas Sale, scrivici ad [email protected] o contattaci su Whatsapp al numero di telefono: 379 163 8765.


Supporta Red Hot Cyber attraverso: 

  1. L'acquisto del fumetto sul Cybersecurity Awareness
  2. Ascoltando i nostri Podcast
  3. Seguendo RHC su WhatsApp
  4. Seguendo RHC su Telegram
  5. Scarica gratuitamente “Byte The Silence”, il fumetto sul Cyberbullismo di Red Hot Cyber

Se ti piacciono le novità e gli articoli riportati su di Red Hot Cyber, iscriviti immediatamente alla newsletter settimanale per non perdere nessun articolo. La newsletter generalmente viene inviata ai nostri lettori ad inizio settimana, indicativamente di lunedì.

I ricercatori hanno utilizzato ChatGPT connesso a un modello avanzato di analisi dei dati Python per generare dati di studi clinici per il trattamento del cheratocono. Tuttavia, i dati generati erano del tutto fittizi, nonostante fossero convincenti.

Giannaccare sottolinea l’importanza di riconoscere il “lato oscuro dell’intelligenza artificiale e la necessità di sviluppare metodi migliori per individuare le frodi. Osserva inoltre che un uso adeguato dell’intelligenza artificiale può contribuire in modo significativo alla ricerca scientifica.

L’articolo, pubblicato su JAMA Ophthalmology, indica che un’analisi più approfondita dei dati potrebbe rivelare segni di falsificazione, come un numero innaturale di età dei soggetti che termina con 7 o 8.

Immagine del sitoRedazione
La redazione di Red Hot Cyber è composta da un insieme di persone fisiche e fonti anonime che collaborano attivamente fornendo informazioni in anteprima e news sulla sicurezza informatica e sull'informatica in generale.

Lista degli articoli

Articoli in evidenza

Immagine del sito
Gli attacchi ransomware diminuiscono nel 2024, ma l’economia criminale rimane in espansione
Di Redazione RHC - 09/12/2025

Secondo un rapporto pubblicato di recente dal Financial Crimes Enforcement Network (FinCEN), l’attività globale del ransomware ha raggiunto il picco nel 2023, per poi crollare nel 2024. Questo calo...

Immagine del sito
Vulnus vs. Bug: il Coaching tra maschere pirandelliane e patch di sistema
Di Daniela Linda - 09/12/2025

Siamo connessi, connessi a tutto, iperconnessi. La nostra vita professionale e sociale è scandita da deadline strettissime e da un’asticella che viene continuamente alzata, dobbiamo spingere. Ci im...

Immagine del sito
Il 12 Dicembre a Roma, il summit IISFA: Cybercrime e Intelligenza Artificiale
Di Redazione RHC - 09/12/2025

Il Centro Congressi Frentani ospiterà il 12 dicembre la conferenza “Cybercrime, Artificial Intelligence & Digital Forensics”, l’evento annuale organizzato da IISFA – Associazione Italiana...

Immagine del sito
Quale e-commerce italiano presto sarà compromesso? La vendita degli accessi nel Dark Web
Di Redazione RHC - 09/12/2025

Un nuovo post pubblicato poche ore fa sul forum underground Exploit rivela l’ennesima offerta criminale legata alla vendita di accessi a siti compromessi. L’inserzionista, un utente storico del fo...

Immagine del sito
L’Australia vieta i social media agli adolescenti: dal 10 dicembre divieto al di sotto di 16 anni
Di Redazione RHC - 08/12/2025

In Australia, a breve sarà introdotta una normativa innovativa che vieta l’accesso ai social media per i minori di 16 anni, un’iniziativa che farà scuola a livello mondiale. Un’analoga misura ...