Redazione RHC : 19 Dicembre 2021 07:47
I programmi di intelligenza artificiale che controllano le immagini mediche alla ricerca del cancro possono essere ingannati con dati alterati.
Un gruppo di ricerca dell’Università di Pittsburgh ha dimostrato che un programma per computer può essere in grado di aggiungere o rimuovere immagini dove ne i tecnici di radiologia né lo strumento basato sull’intelligenza artificiale sono stati in grado di rilevare questi cambiamenti.
Prompt Engineering & Sicurezza: diventa l’esperto che guida l’AIVuoi dominare l’AI generativa e usarla in modo sicuro e professionale? Con il Corso Prompt Engineering: dalle basi alla cybersecurity, guidato da Luca Vinciguerra, data scientist ed esperto di sicurezza informatica, impari a creare prompt efficaci, ottimizzare i modelli linguistici e difenderti dai rischi legati all’intelligenza artificiale. Un percorso pratico e subito spendibile per distinguerti nel mondo del lavoro. Non restare indietro: investi oggi nelle tue competenze e porta il tuo profilo professionale a un nuovo livello. Guarda subito l'anteprima gratuita del corso su academy.redhotcyber.com Contattaci per ulteriori informazioni tramite WhatsApp al 375 593 1011 oppure scrivi a [email protected]  Supporta RHC attraverso:
Se ti piacciono le novità e gli articoli riportati su di Red Hot Cyber, iscriviti immediatamente alla newsletter settimanale per non perdere nessun articolo. La newsletter generalmente viene inviata ai nostri lettori ad inizio settimana, indicativamente di lunedì. |
Un programma per computer sviluppato da scienziati ha cambiato i raggi X del seno, che inizialmente non aveva segni relativi al cancro, e li ha trasformati in immagini maligne. Le immagini modificate sembravano normali ad un occhio umano. Gli esperti hanno testato le immagini alterate utilizzando algoritmi basati sull’intelligenza artificiale addestrati per rilevare i segni del cancro al seno e hanno chiesto a cinque radiologi di analizzare queste immagini.
Circa il 70% delle immagini elaborate ha ingannato il programma: l’IA ha identificato erroneamente immagini sane e maligne. I radiologi hanno riconosciuto il falso con vari gradi di accuratezza, che variavano dal 29% al 71%.
Ad oggi, non sono stati documentati casi di immagini a raggi X compromesse in attacchi reali. Tuttavia, i criminali informatici potrebbero essere interessati a pazienti specifici, come i politici.
Questa tecnologia può essere utilizzata anche dai truffatori per falsificare le proprie immagini e ottenere un’assicurazione. Gli hacker possono anche falsificare deliberatamente le immagini e chiedere un riscatto all’ospedale per fermare gli attacchi.
“Speriamo che questo studio induca le persone a riflettere sulla sicurezza dei modelli di IA medica e su cosa possiamo fare per difenderci da potenziali attacchi”
hanno spiegato i ricercatori.
RedazionePoco fa la piattaforma italiana di monitoraggio del ransomware RansomFeed ha pubblicato una segnalazione che coinvolge Generali Group che sembrerebbe essere stata attaccata dalla cyber gang CRYPTO24. ...
Avevamo già parlato della proposta di regolamento “ChatControl” quasi due anni fa, ma vista la roadmap che è in atto ci troviamo nell’imbarazzo di doverne parlare nuovamente. Sembra però un d...
ShinyHunters è un gruppo noto per il coinvolgimento in diversi attacchi informatici di alto profilo. Formatosi intorno al 2020, il gruppo ha guadagnato notorietà attraverso una serie di attacchi mir...
La notizia è semplice, la tecnologia no. Chat Control (CSAR) nasce per scovare CSAM e dinamiche di grooming dentro le piattaforme di messaggistica. La versione “modernizzata” rinuncia alla backdo...
A cura di Luca Stivali e Olivia Terragni. L’11 settembre 2025 è esploso mediaticamente, in modo massivo e massiccio, quello che può essere definito il più grande leak mai subito dal Great Fir...
