
I programmi di intelligenza artificiale che controllano le immagini mediche alla ricerca del cancro possono essere ingannati con dati alterati.
Un gruppo di ricerca dell’Università di Pittsburgh ha dimostrato che un programma per computer può essere in grado di aggiungere o rimuovere immagini dove ne i tecnici di radiologia né lo strumento basato sull’intelligenza artificiale sono stati in grado di rilevare questi cambiamenti.
Un programma per computer sviluppato da scienziati ha cambiato i raggi X del seno, che inizialmente non aveva segni relativi al cancro, e li ha trasformati in immagini maligne. Le immagini modificate sembravano normali ad un occhio umano. Gli esperti hanno testato le immagini alterate utilizzando algoritmi basati sull’intelligenza artificiale addestrati per rilevare i segni del cancro al seno e hanno chiesto a cinque radiologi di analizzare queste immagini.
Circa il 70% delle immagini elaborate ha ingannato il programma: l’IA ha identificato erroneamente immagini sane e maligne. I radiologi hanno riconosciuto il falso con vari gradi di accuratezza, che variavano dal 29% al 71%.
Ad oggi, non sono stati documentati casi di immagini a raggi X compromesse in attacchi reali. Tuttavia, i criminali informatici potrebbero essere interessati a pazienti specifici, come i politici.
Questa tecnologia può essere utilizzata anche dai truffatori per falsificare le proprie immagini e ottenere un’assicurazione. Gli hacker possono anche falsificare deliberatamente le immagini e chiedere un riscatto all’ospedale per fermare gli attacchi.
“Speriamo che questo studio induca le persone a riflettere sulla sicurezza dei modelli di IA medica e su cosa possiamo fare per difenderci da potenziali attacchi”
hanno spiegato i ricercatori.
Ti è piaciuto questo articolo? Ne stiamo discutendo nella nostra Community su LinkedIn, Facebook e Instagram. Seguici anche su Google News, per ricevere aggiornamenti quotidiani sulla sicurezza informatica o Scrivici se desideri segnalarci notizie, approfondimenti o contributi da pubblicare.

CulturaQuando la sicurezza fallisce prima ancora dell’errore Questo testo nasce dall’esperienza diretta, maturata osservando nel tempo numerosi casi di frodi e incidenti informatici, in cui il fattore umano nella sicurezza è stato l’elemento che ha…
CulturaNel mondo della cybersecurity si parla spesso di attacchi, vulnerabilità, incidenti. Si parla meno di una variabile silenziosa che attraversa tutto il settore: la fatica. Non la stanchezza di fine giornata, ma una fatica più…
CyberpoliticaA volte le cose importanti non arrivano in conferenza stampa. Arrivano come un grafico che smette di respirare: la linea della connettività che crolla, l’OSINT che si inaridisce, il rumore che cresce perché il segnale…
VulnerabilitàUna falla critica è stata individuata nella piattaforma di intelligenza artificiale di ServiceNow, con un punteggio di gravità pari a 9,3 su 10. Questa vulnerabilità, catalogata come CVE-2025-12420, potrebbe permettere a malintenzionati di impersonare utenti…
Cyber ItaliaPer troppo tempo abbiamo interpretato la sicurezza informatica esclusivamente come una fredda barriera di firewall e algoritmi. Abbiamo dimenticato che dietro ogni schermo, ogni attacco e ogni innovazione, batte un cuore umano. In un panorama…