Red Hot Cyber
La cybersecurity è condivisione. Riconosci il rischio, combattilo, condividi le tue esperienze ed incentiva gli altri a fare meglio di te.
Redazione RHC : 29 Febbraio 2024 14:24
Gli esperti di JFrog hanno scoperto almeno 100 modelli di intelligenza artificiale dannosi sulla popolare piattaforma aperta Hugging Face.
Hugging Face consente ai ricercatori di intelligenza artificiale e machine learning di pubblicare e condividere il proprio lavoro con la comunità. Il servizio offre decine di migliaia di modelli per l’elaborazione del linguaggio naturale, la visione artificiale e altre attività.
Si scopre che alcuni degli algoritmi presentati contengono codice dannoso. In particolare, sono stati trovati modelli con la possibilità di installare “backdoor“, canali nascosti di accesso remoto che consentono agli aggressori di ottenere il controllo del computer della vittima.
CORSO NIS2 : Network and Information system 2
La direttiva NIS2 rappresenta una delle novità più importanti per la sicurezza informatica in Europa, imponendo nuovi obblighi alle aziende e alle infrastrutture critiche per migliorare la resilienza contro le cyber minacce.
Con scadenze stringenti e penalità elevate per chi non si adegua, comprendere i requisiti della NIS2 è essenziale per garantire la compliance e proteggere la tua organizzazione.
Accedi All'Anteprima del Corso condotto dall'Avv. Andrea Capelli sulla nostra Academy e segui l'anteprima gratuita.
Per ulteriori informazioni, scrivici ad [email protected] oppure scrivici su Whatsapp al 379 163 8765
Supporta RHC attraverso:
Ti piacciono gli articoli di Red Hot Cyber? Non aspettare oltre, iscriviti alla newsletter settimanale per non perdere nessun articolo.
Una delle minacce più pericolose era un modello PyTorch caricato di recente dall’utente “baller423“, che è stato successivamente rimosso. Integrava un payload dannoso in grado di stabilire una connessione inversa a un host remoto specificato (210.117.212.93).
Per mascherare il codice dannoso gli aggressori hanno utilizzato il metodo “__reduce__” del modulo pickle di Python. Permetteva l’esecuzione di comandi arbitrari durante il caricamento di un file PyTorch nascondendoli all’interno del processo di serializzazione. Pertanto, i sistemi di rilevamento non hanno riconosciuto questo trucco.
Problemi simili sono stati trovati in modelli associati a molti altri indirizzi IP. “Vorremmo sottolineare che per ‘modelli dannosi’ intendiamo proprio quelli che trasportano payload realmente pericolosi”, osserva il rapporto JFrog. “Questo numero non include i falsi positivi presenti sul sistema, quindi abbiamo una comprensione completa del numero di modelli dannosi per PyTorch e Tensorflow sulla piattaforma Hugging Face.”
Secondo JFrog, alcuni di questi algoritmi potrebbero essere stati scaricati dai ricercatori come parte del test del sistema di sicurezza Hugging Face. Gli esperti spesso ricevono ricompense per le vulnerabilità scoperte. Tuttavia, anche in questo caso, pubblicare modelli pericolosi è estremamente rischioso e inaccettabile, poiché diventano disponibili per il download a tutti gli utenti.
Per cercare malware, gli esperti di JFrog hanno sviluppato uno speciale sistema di scansione che tiene conto delle specificità dell’intelligenza artificiale. Questo sistema ha permesso per la prima volta di rilevare i segnalibri nascosti nel codice, nonostante Hugging Face utilizzi già misure di sicurezza.
Gli strumenti di sicurezza standard non sono sempre in grado di riconoscere elementi sospetti nascosti all’interno dei file con algoritmi AI. I risultati degli analisti dimostrano i potenziali rischi derivanti dall’utilizzo di modelli provenienti da fonti non verificate. Gli esperti esortano gli sviluppatori a essere più vigili e ad implementare ulteriori misure di sicurezza per proteggere l’ecosistema dell’intelligenza artificiale dagli attacchi informatici.
RedazioneNegli ultimi giorni, su due noti forum underground specializzati nella compravendita di dati trafugati e metodi fraudolenti, sono comparsi dei post separati (ma identici nel contenuto), riguardanti un...
E se le intelligenze artificiali producessero del codice vulnerabile oppure utilizzassero librerie e costrutti contenenti bug vecchi mai sanati? Si tratta di allucinazione o apprendimento errato? Una ...
Anche questa mattina, gli hacker di NoName057(16) procedono a sferrare attacchi DDoS contro diversi obiettivi italiani. Nell’ultimo periodo, Telegram ha intensificato la sua azione co...
Secondo diverse indiscrezioni, il proprietario di Pornhub, Redtube e YouPorn ha intenzione di interrompere il servizio agli utenti francesi già mercoledì pomeriggio per protestare contro le ...
Gli hacker di NoName057(16) riavviano le loro attività ostili contro diversi obiettivi italiani, attraverso attacchi di Distributed Denial-of-Service (DDoS). NoName057(16) &#x...
Copyright @ REDHOTCYBER Srl
PIVA 17898011006
