Un attacco pubblicato lo scorso anno dai ricercatori della Cornell University, del quale avevamo parlato su RHC, potrebbe aumentare il consumo di energia nei sistemi di intelligenza artificiale.
Allo stesso modo in cui un attacco denial-of-service su Internet può paralizzare una rete e renderla inutilizzabile, questo genere di attacco costringerebbe la rete neurale ad utilizzare più risorse del necessario e rallentare di fatto il processo di elaborazione.
Negli ultimi anni, la crescente preoccupazione per il costoso consumo di energia dei grandi modelli di IA ha portato i ricercatori a progettare reti neurali più efficienti.
Si sta parlando da qualche tempo delle input-adaptive multi-exit architectures, che sono delle reti neurali che funzionano suddividendo le attività in base alla loro difficoltà di risoluzione. Quindi spendendo la quantità minima di risorse computazionali necessarie per risolverle.
Supponiamo di avere una foto di un leone che guarda dritto nella telecamera con un’illuminazione perfetta e un’immagine di un leone accovacciato in un paesaggio complesso, in parte nascosto alla vista e con poca luce.
Una rete neurale tradizionale passerebbe entrambe le foto attraverso tutti i suoi livelli di elaborazione e impiegherebbe la stessa quantità di calcolo per etichettarla.
Ma una rete neurale multi-exit potrebbe far passare la prima foto attraverso un solo livello della rete neurale ed etichettarla prima, sostanzialmente riducendo il consumo di cicli macchina e quindi di energia.
Questo riduce il consumo e ne migliora anche la velocità e ne consente l’implementazione su dispositivi più piccoli, come smartphone e altoparlanti intelligenti.
Ma questo tipo di rete neurale, qualora venga modificato l’input e quindi l’immagine che viene utilizzata, puoi cambiare la quantità di calcolo necessaria per risolverlo. Questo apre le porte ad una vulnerabilità che gli hacker potrebbero sfruttare, come hanno sottolineato i ricercatori del Maryland Cybersecurity Center in un nuovo documento presentato questa settimana alla International Conference on Learning Representations.
Quindi in una tecnologia multi-exit, aggiungendo piccole quantità di rumore agli input della rete neurale, si potrà di fatto aumentare la potenza di calcolo dell’elaboratore riuscendo ad aumentare il consumo di energia dal 20% fino all’80%.
Come hanno scoperto i ricercatori, questo attacco può essere sfruttato attraverso diversi tipi di reti neurali. Progettare un attacco per un sistema di classificazione delle immagini è sufficiente per interromperne molti, afferma Yiğitcan Kaya, studente di dottorato e coautore di articoli.
Ma per fortuna questo tipo di attacco è ancora teorico.
Le input-adaptive multi-exit architectures non sono ancora comunemente utilizzate nelle applicazioni. Ma i ricercatori ritengono che questo approccio cambierà rapidamente il modo di implementare le reti neurali, riuscendo a produrre reti più leggere, e poterle inserire in dispositivi meno avidi di risorse computazionali ed energia, come per la casa intelligente e altri dispositivi IoT.
Tudor Dumitraş, il professore che ha coordinato la ricerca, afferma che è necessario più lavoro per capire fino a che punto questo tipo di minaccia possa creare danni.
Ma, aggiunge che il documento prodotto, è un primo passo per aumentare la consapevolezza:
“Ciò che è importante per me è portare all’attenzione della gente il fatto che questo è un nuovo modello di minaccia e che questo tipo di attacchi può essere fatto”
Che di fatto è il cuore della gestione del rischio.
Conosci il rischio, per starne lontano no?
Fonte
https://www.technologyreview.com/2021/05/06/1024654/ai-energy-hack-adversarial-attack/
Ti è piaciuto questo articolo? Ne stiamo discutendo nella nostra Community su LinkedIn, Facebook e Instagram. Seguici anche su Google News, per ricevere aggiornamenti quotidiani sulla sicurezza informatica o Scrivici se desideri segnalarci notizie, approfondimenti o contributi da pubblicare.
Vulnerabilità
Cyber Italia
Vulnerabilità
Cyber Italia
Cyber Italia