Redazione RHC : 29 Febbraio 2024 14:24
Gli esperti di JFrog hanno scoperto almeno 100 modelli di intelligenza artificiale dannosi sulla popolare piattaforma aperta Hugging Face.
Hugging Face consente ai ricercatori di intelligenza artificiale e machine learning di pubblicare e condividere il proprio lavoro con la comunità. Il servizio offre decine di migliaia di modelli per l’elaborazione del linguaggio naturale, la visione artificiale e altre attività.
Si scopre che alcuni degli algoritmi presentati contengono codice dannoso. In particolare, sono stati trovati modelli con la possibilità di installare “backdoor“, canali nascosti di accesso remoto che consentono agli aggressori di ottenere il controllo del computer della vittima.
Distribuisci i nostri corsi di formazione diventando un nostro Affiliato
Se sei un influencer, gestisci una community, un blog, un profilo social o semplicemente hai tanta voglia di diffondere cultura digitale e cybersecurity, questo è il momento perfetto per collaborare con RHC Academy. Unisciti al nostro Affiliate Program: potrai promuovere i nostri corsi online e guadagnare provvigioni ad ogni corso venduto. Fai parte del cambiamento. Diffondi conoscenza, costruisci fiducia, genera valore.
Contattaci tramite WhatsApp al 375 593 1011 per richiedere ulteriori informazioni oppure scriviti alla casella di posta [email protected]
Supporta RHC attraverso:
Ti piacciono gli articoli di Red Hot Cyber? Non aspettare oltre, iscriviti alla newsletter settimanale per non perdere nessun articolo.
Una delle minacce più pericolose era un modello PyTorch caricato di recente dall’utente “baller423“, che è stato successivamente rimosso. Integrava un payload dannoso in grado di stabilire una connessione inversa a un host remoto specificato (210.117.212.93).
Per mascherare il codice dannoso gli aggressori hanno utilizzato il metodo “__reduce__” del modulo pickle di Python. Permetteva l’esecuzione di comandi arbitrari durante il caricamento di un file PyTorch nascondendoli all’interno del processo di serializzazione. Pertanto, i sistemi di rilevamento non hanno riconosciuto questo trucco.
Problemi simili sono stati trovati in modelli associati a molti altri indirizzi IP. “Vorremmo sottolineare che per ‘modelli dannosi’ intendiamo proprio quelli che trasportano payload realmente pericolosi”, osserva il rapporto JFrog. “Questo numero non include i falsi positivi presenti sul sistema, quindi abbiamo una comprensione completa del numero di modelli dannosi per PyTorch e Tensorflow sulla piattaforma Hugging Face.”
Secondo JFrog, alcuni di questi algoritmi potrebbero essere stati scaricati dai ricercatori come parte del test del sistema di sicurezza Hugging Face. Gli esperti spesso ricevono ricompense per le vulnerabilità scoperte. Tuttavia, anche in questo caso, pubblicare modelli pericolosi è estremamente rischioso e inaccettabile, poiché diventano disponibili per il download a tutti gli utenti.
Per cercare malware, gli esperti di JFrog hanno sviluppato uno speciale sistema di scansione che tiene conto delle specificità dell’intelligenza artificiale. Questo sistema ha permesso per la prima volta di rilevare i segnalibri nascosti nel codice, nonostante Hugging Face utilizzi già misure di sicurezza.
Gli strumenti di sicurezza standard non sono sempre in grado di riconoscere elementi sospetti nascosti all’interno dei file con algoritmi AI. I risultati degli analisti dimostrano i potenziali rischi derivanti dall’utilizzo di modelli provenienti da fonti non verificate. Gli esperti esortano gli sviluppatori a essere più vigili e ad implementare ulteriori misure di sicurezza per proteggere l’ecosistema dell’intelligenza artificiale dagli attacchi informatici.
RedazioneNel mese di aprile 2025, una valvola idraulica di una diga norvegese è stata forzatamente aperta da remoto per diverse ore, a seguito di un attacco informatico mirato. L’episodio, riportat...
Sul forum underground russo XSS è apparso un post che offre una “Collection di Lead Verificati Italia 2025” con oltre 1 milione di record. Questo tipo di inserzioni evidenzia la con...
Nel cuore dei conflitti contemporanei, accanto ai carri armati, ai droni e alle truppe, si combatte una guerra invisibile, silenziosa e spesso sottovalutata: la cyber war. Non è solo uno scenario...
Le autorità iberiche sono impegnate in un’indagine riguardante un pirata informatico che ha divulgato informazioni sensibili relative a funzionari pubblici e figure politiche di spicco. Tr...
Un insolito esempio di codice dannoso è stato scoperto in un ambiente informatico reale , che per la prima volta ha registrato un tentativo di attacco non ai classici meccanismi di difesa, ma dir...
Copyright @ REDHOTCYBER Srl
PIVA 17898011006
