Gli esperti di JFrog hanno scoperto almeno 100 modelli di intelligenza artificiale dannosi sulla popolare piattaforma aperta Hugging Face.
Hugging Face consente ai ricercatori di intelligenza artificiale e machine learning di pubblicare e condividere il proprio lavoro con la comunità. Il servizio offre decine di migliaia di modelli per l’elaborazione del linguaggio naturale, la visione artificiale e altre attività.
Si scopre che alcuni degli algoritmi presentati contengono codice dannoso. In particolare, sono stati trovati modelli con la possibilità di installare “backdoor“, canali nascosti di accesso remoto che consentono agli aggressori di ottenere il controllo del computer della vittima.
 Avvio delle iscrizioni al corso Cyber Offensive Fundamentals Vuoi smettere di guardare tutorial e iniziare a capire davvero come funziona la sicurezza informatica? La base della sicurezza informatica, al di là di norme e tecnologie, ha sempre un unico obiettivo: fermare gli attacchi dei criminali informatici. Pertanto "Pensa come un attaccante, agisci come un difensore". Ti porteremo nel mondo dell'ethical hacking e del penetration test come nessuno ha mai fatto prima. Per informazioni potete accedere alla pagina del corso oppure contattarci tramite WhatsApp al numero 379 163 8765 oppure scrivendoci alla casella di posta [email protected].
Se ti piacciono le novità e gli articoli riportati su di Red Hot Cyber, iscriviti immediatamente alla newsletter settimanale per non perdere nessun articolo. La newsletter generalmente viene inviata ai nostri lettori ad inizio settimana, indicativamente di lunedì. |
Una delle minacce più pericolose era un modello PyTorch caricato di recente dall’utente “baller423“, che è stato successivamente rimosso. Integrava un payload dannoso in grado di stabilire una connessione inversa a un host remoto specificato (210.117.212.93).
Per mascherare il codice dannoso gli aggressori hanno utilizzato il metodo “__reduce__” del modulo pickle di Python. Permetteva l’esecuzione di comandi arbitrari durante il caricamento di un file PyTorch nascondendoli all’interno del processo di serializzazione. Pertanto, i sistemi di rilevamento non hanno riconosciuto questo trucco.
Problemi simili sono stati trovati in modelli associati a molti altri indirizzi IP. “Vorremmo sottolineare che per ‘modelli dannosi’ intendiamo proprio quelli che trasportano payload realmente pericolosi”, osserva il rapporto JFrog. “Questo numero non include i falsi positivi presenti sul sistema, quindi abbiamo una comprensione completa del numero di modelli dannosi per PyTorch e Tensorflow sulla piattaforma Hugging Face.”
Secondo JFrog, alcuni di questi algoritmi potrebbero essere stati scaricati dai ricercatori come parte del test del sistema di sicurezza Hugging Face. Gli esperti spesso ricevono ricompense per le vulnerabilità scoperte. Tuttavia, anche in questo caso, pubblicare modelli pericolosi è estremamente rischioso e inaccettabile, poiché diventano disponibili per il download a tutti gli utenti.
Per cercare malware, gli esperti di JFrog hanno sviluppato uno speciale sistema di scansione che tiene conto delle specificità dell’intelligenza artificiale. Questo sistema ha permesso per la prima volta di rilevare i segnalibri nascosti nel codice, nonostante Hugging Face utilizzi già misure di sicurezza.
Gli strumenti di sicurezza standard non sono sempre in grado di riconoscere elementi sospetti nascosti all’interno dei file con algoritmi AI. I risultati degli analisti dimostrano i potenziali rischi derivanti dall’utilizzo di modelli provenienti da fonti non verificate. Gli esperti esortano gli sviluppatori a essere più vigili e ad implementare ulteriori misure di sicurezza per proteggere l’ecosistema dell’intelligenza artificiale dagli attacchi informatici.
Ti è piaciuto questo articolo? Ne stiamo discutendo nella nostra Community su LinkedIn, Facebook e Instagram. Seguici anche su Google News, per ricevere aggiornamenti quotidiani sulla sicurezza informatica o Scrivici se desideri segnalarci notizie, approfondimenti o contributi da pubblicare.
Cyberpolitica
Cybercrime
Cybercrime
Cybercrime
Cultura