Red Hot Cyber
Sicurezza Informatica, Notizie su Cybercrime e Analisi Vulnerabilità
Gli esperti di JFrog hanno scoperto almeno 100 modelli di intelligenza artificiale dannosi sulla popolare piattaforma aperta Hugging Face.
Hugging Face consente ai ricercatori di intelligenza artificiale e machine learning di pubblicare e condividere il proprio lavoro con la comunità. Il servizio offre decine di migliaia di modelli per l’elaborazione del linguaggio naturale, la visione artificiale e altre attività.
Si scopre che alcuni degli algoritmi presentati contengono codice dannoso. In particolare, sono stati trovati modelli con la possibilità di installare “backdoor“, canali nascosti di accesso remoto che consentono agli aggressori di ottenere il controllo del computer della vittima.
Una delle minacce più pericolose era un modello PyTorch caricato di recente dall’utente “baller423“, che è stato successivamente rimosso. Integrava un payload dannoso in grado di stabilire una connessione inversa a un host remoto specificato (210.117.212.93).
Per mascherare il codice dannoso gli aggressori hanno utilizzato il metodo “__reduce__” del modulo pickle di Python. Permetteva l’esecuzione di comandi arbitrari durante il caricamento di un file PyTorch nascondendoli all’interno del processo di serializzazione. Pertanto, i sistemi di rilevamento non hanno riconosciuto questo trucco.
Problemi simili sono stati trovati in modelli associati a molti altri indirizzi IP. “Vorremmo sottolineare che per ‘modelli dannosi’ intendiamo proprio quelli che trasportano payload realmente pericolosi”, osserva il rapporto JFrog. “Questo numero non include i falsi positivi presenti sul sistema, quindi abbiamo una comprensione completa del numero di modelli dannosi per PyTorch e Tensorflow sulla piattaforma Hugging Face.”
Secondo JFrog, alcuni di questi algoritmi potrebbero essere stati scaricati dai ricercatori come parte del test del sistema di sicurezza Hugging Face. Gli esperti spesso ricevono ricompense per le vulnerabilità scoperte. Tuttavia, anche in questo caso, pubblicare modelli pericolosi è estremamente rischioso e inaccettabile, poiché diventano disponibili per il download a tutti gli utenti.
Per cercare malware, gli esperti di JFrog hanno sviluppato uno speciale sistema di scansione che tiene conto delle specificità dell’intelligenza artificiale. Questo sistema ha permesso per la prima volta di rilevare i segnalibri nascosti nel codice, nonostante Hugging Face utilizzi già misure di sicurezza.
Gli strumenti di sicurezza standard non sono sempre in grado di riconoscere elementi sospetti nascosti all’interno dei file con algoritmi AI. I risultati degli analisti dimostrano i potenziali rischi derivanti dall’utilizzo di modelli provenienti da fonti non verificate. Gli esperti esortano gli sviluppatori a essere più vigili e ad implementare ulteriori misure di sicurezza per proteggere l’ecosistema dell’intelligenza artificiale dagli attacchi informatici.
