Redazione RHC : 18 Maggio 2022 07:39
Negli ultimi dieci anni, l’intelligenza artificiale è stata utilizzata per il riconoscimento facciale, il rating del credito e le previsioni meteorologiche.
Allo stesso tempo, i casi di hack sofisticati sono diventati più frequenti. La combinazione di intelligenza artificiale e sicurezza informatica era inevitabile poiché entrambi i campi cercavano strumenti migliori e nuovi modi di utilizzare questa tecnologia.
Ma c’è un problema serio che minaccia di minare questi sforzi e potrebbe consentire agli aggressori di aggirare la protezione digitale senza essere scoperti.
 Scarica Gratuitamente Byte The Silence, il fumetto sul Cyberbullismo di Red Hot Cyber"Il cyberbullismo è una delle minacce più insidiose e silenziose che colpiscono i nostri ragazzi. Non si tratta di semplici "bravate online", ma di veri e propri atti di violenza digitale, capaci di lasciare ferite profonde e spesso irreversibili nell’animo delle vittime. Non possiamo più permetterci di chiudere gli occhi". Così si apre la prefazione del fumetto di Massimiliano Brolli, fondatore di Red Hot Cyber, un’opera che affronta con sensibilità e realismo uno dei temi più urgenti della nostra epoca. Distribuito gratuitamente, questo fumetto nasce con l'obiettivo di sensibilizzare e informare. È uno strumento pensato per scuole, insegnanti, genitori e vittime, ma anche per chi, per qualsiasi ragione, si è ritrovato nel ruolo del bullo, affinché possa comprendere, riflettere e cambiare. Con la speranza che venga letto, condiviso e discusso, Red Hot Cyber è orgogliosa di offrire un contributo concreto per costruire una cultura digitale più consapevole, empatica e sicura. Contattaci tramite WhatsApp al numero 375 593 1011 per richiedere ulteriori informazioni oppure alla casella di posta [email protected]
Se ti piacciono le novità e gli articoli riportati su di Red Hot Cyber, iscriviti immediatamente alla newsletter settimanale per non perdere nessun articolo. La newsletter generalmente viene inviata ai nostri lettori ad inizio settimana, indicativamente di lunedì. |
Si tratta di una minaccia che a suo tempo avevamo trattato all’interno delle attività di hacking delle AI ovvero dell‘avvelenamento dei dati.
Molte aziende potrebbero non essere preparate ad affrontare questi rischi sempre più crescenti. Si prevede che il mercato globale della sicurezza informatica dell’IA triplicherà fino a raggiungere i 35 miliardi di dollari entro il 2028. I fornitori di servizi di sicurezza e i loro clienti potrebbero dover combinare più strategie per raggiungere il giusto livello di sicurezza informatica.
Data un’enorme quantità di dati, ai computer può essere insegnato a classificare correttamente le informazioni. Lo stesso approccio viene utilizzato nella sicurezza informatica. Per catturare il malware, le aziende caricano i dati nei loro sistemi e lasciano che l’IA impari da sola.
Grazie a numerosi esempi di codice buono e cattivo, i computer possono imparare a individuare il malware.
I sistemi di apprendimento automatico richiedono un numero enorme di campioni correttamente etichettati per identificare con precisione le minacce.
Il problema è che anche le più grandi società di sicurezza possono confrontare e classificare solo un numero limitato di esempi di malware, quindi non hanno altra scelta che acquistare altri propri dati di addestramento da altre fonti. Alcuni dati potrebbero potrebbero essere opensource o in crowdsourcing.
Ma qualche malintenzionato, potrebbe contrassegnando dei campioni come validi quando di fatto contengono codice dannoso. In questo modo un hacker può indurre la rete neurale a pensare che il codice pericoloso sia innocuo.
Catturare tali campioni di codice è quasi impossibile. Il codice backdoor può bypassare completamente i meccanismi di difesa, avvelenando meno dello 0,7% dei dati inviati al suo sistema di apprendimento automatico.
Pertanto, un sistema di apprendimento automatico può diventare vulnerabile anche se utilizza solo una piccola quantità di dati open source non verificati.
Un modo per prevenire l’avvelenamento dei dati consiste nel controllare regolarmente l’accuratezza di tutte le etichette nei dati di addestramento da parte degli scienziati che sviluppano modelli di intelligenza artificiale.
Ad esempio, i ricercatori di OpenAI LLP, durante l’analisi dei set di dati per un nuovo strumento di imaging, hanno analizzato regolarmente i dati attraverso filtri speciali per garantire che ogni etichetta fosse accurata.
Ma come starete pensando, la complessità sta aumentando in modo impressionante e generalmente, la complessità non è un fattore che contribuisce ad aumentare la sicurezza.
RedazioneI ricercatori di Varonis hanno scoperto la piattaforma MaaS (malware-as-a-service) Atroposia. Per 200 dollari al mese, i suoi clienti ricevono un Trojan di accesso remoto con funzionalità estese, tra...
Peter Williams, ex dipendente dell’azienda appaltatrice della difesa, si è dichiarato colpevole presso un tribunale federale degli Stati Uniti di due capi d’accusa per furto di segreti commercial...
L’interruzione dei servizi cloud di Microsoft, avvenuta poche ore prima della pubblicazione dei risultati trimestrali, è solo l’ultimo episodio di una lunga serie di blackout che stanno mettendo ...
Il Dipartimento dell’Energia degli Stati Uniti (DOE) ha avviato una collaborazione strategica con Nvidia e Oracle per costruire sette supercomputer di nuova generazione basati sull’intelligenza ar...
Una interruzione del servizio DNS è stata rilevata il 29 ottobre 2025 da Microsoft, con ripercussioni sull’accesso ai servizi fondamentali come Microsoft Azure e Microsoft 365. Un’ anomalia è st...
