Redazione RHC : 29 Febbraio 2024 14:24
Gli esperti di JFrog hanno scoperto almeno 100 modelli di intelligenza artificiale dannosi sulla popolare piattaforma aperta Hugging Face.
Hugging Face consente ai ricercatori di intelligenza artificiale e machine learning di pubblicare e condividere il proprio lavoro con la comunità. Il servizio offre decine di migliaia di modelli per l’elaborazione del linguaggio naturale, la visione artificiale e altre attività.
Si scopre che alcuni degli algoritmi presentati contengono codice dannoso. In particolare, sono stati trovati modelli con la possibilità di installare “backdoor“, canali nascosti di accesso remoto che consentono agli aggressori di ottenere il controllo del computer della vittima.
Sponsorizza la prossima Red Hot Cyber Conference!
Il giorno Lunedì 18 maggio e martedì 19 maggio 2026 9 maggio 2026, presso il teatro Italia di Roma (a due passi dalla stazione termini e dalla metro B di Piazza Bologna), si terrà la V edizione della la RHC Conference. Si tratta dell’appuntamento annuale gratuito, creato dalla community di RHC, per far accrescere l’interesse verso le tecnologie digitali, l’innovazione digitale e la consapevolezza del rischio informatico.
Se sei interessato a sponsorizzare l'evento e a rendere la tua azienda protagonista del più grande evento della Cybersecurity Italiana, non perdere questa opportunità. E ricorda che assieme alla sponsorizzazione della conferenza, incluso nel prezzo, avrai un paccheto di Branding sul sito di Red Hot Cyber composto da Banner più un numero di articoli che saranno ospitati all'interno del nostro portale.
Quindi cosa stai aspettando? Scrivici subito a [email protected] per maggiori informazioni e per accedere al programma sponsor e al media Kit di Red Hot Cyber.
Supporta RHC attraverso:
L'acquisto del fumetto sul Cybersecurity Awareness
Ascoltando i nostri Podcast
Seguendo RHC su WhatsApp
Seguendo RHC su Telegram
Scarica gratuitamente "Dark Mirror", il report sul ransomware di Dark Lab
Se ti piacciono le novità e gli articoli riportati su di Red Hot Cyber, iscriviti immediatamente alla newsletter settimanale per non perdere nessun articolo. La newsletter generalmente viene inviata ai nostri lettori ad inizio settimana, indicativamente di lunedì.
Una delle minacce più pericolose era un modello PyTorch caricato di recente dall’utente “baller423“, che è stato successivamente rimosso. Integrava un payload dannoso in grado di stabilire una connessione inversa a un host remoto specificato (210.117.212.93).
Per mascherare il codice dannoso gli aggressori hanno utilizzato il metodo “__reduce__” del modulo pickle di Python. Permetteva l’esecuzione di comandi arbitrari durante il caricamento di un file PyTorch nascondendoli all’interno del processo di serializzazione. Pertanto, i sistemi di rilevamento non hanno riconosciuto questo trucco.
Problemi simili sono stati trovati in modelli associati a molti altri indirizzi IP. “Vorremmo sottolineare che per ‘modelli dannosi’ intendiamo proprio quelli che trasportano payload realmente pericolosi”, osserva il rapporto JFrog. “Questo numero non include i falsi positivi presenti sul sistema, quindi abbiamo una comprensione completa del numero di modelli dannosi per PyTorch e Tensorflow sulla piattaforma Hugging Face.”
Secondo JFrog, alcuni di questi algoritmi potrebbero essere stati scaricati dai ricercatori come parte del test del sistema di sicurezza Hugging Face. Gli esperti spesso ricevono ricompense per le vulnerabilità scoperte. Tuttavia, anche in questo caso, pubblicare modelli pericolosi è estremamente rischioso e inaccettabile, poiché diventano disponibili per il download a tutti gli utenti.
Per cercare malware, gli esperti di JFrog hanno sviluppato uno speciale sistema di scansione che tiene conto delle specificità dell’intelligenza artificiale. Questo sistema ha permesso per la prima volta di rilevare i segnalibri nascosti nel codice, nonostante Hugging Face utilizzi già misure di sicurezza.
Gli strumenti di sicurezza standard non sono sempre in grado di riconoscere elementi sospetti nascosti all’interno dei file con algoritmi AI. I risultati degli analisti dimostrano i potenziali rischi derivanti dall’utilizzo di modelli provenienti da fonti non verificate. Gli esperti esortano gli sviluppatori a essere più vigili e ad implementare ulteriori misure di sicurezza per proteggere l’ecosistema dell’intelligenza artificiale dagli attacchi informatici.
RedazioneSAP ha reso disponibili degli aggiornamenti per la sicurezza Martedì, con l’obiettivo di risolvere varie vulnerabilità. Tra queste vulnerabilità, ve ne sono tre particolarmente critiche che si ve...
Ci stiamo avviando a passi da gigante vero l’uroboro, ovvero il serpente che mangia la sua stessa coda. Ne avevamo parlato qualche settimana fa che il traffico umano su internet è in calo vertigino...
A fine agosto, GreyNoise ha registrato un forte aumento dell’attività di scansione mirata ai dispositivi Cisco ASA. Gli esperti avvertono che tali ondate spesso precedono la scoperta di nuove vulne...
Con una drammatica inversione di tendenza, il Nepal ha revocato il blackout nazionale sui social media imposto la scorsa settimana dopo che aveva scatenato massicce proteste giovanili e causato almeno...
Le aziende italiane che utilizzano piattaforme di telefonia online (VoIP) basate su software open-source come Asterisk e Vicidial, si affidano a questi sistemi per contattare quotidianamente i cittadi...
