Anthropic avverte: le IA potrebbero replicarsi autonomamente su internet

Anthropic avverte che entro fine 2026 i progressi dell'intelligenza artificiale potrebbero rendere tecnicamente possibili worm IA capaci di replicarsi tra dispositivi IoT vulnerabili. Gli esperimenti su TV box Android e dispositivi virtuali mostrano risultati promettenti, ma un worm completamente autonomo non è stato ancora realizzato.

Gli esperti di Anthropic avvertono, come abbiamo visto in un precedente articolo, che già nei prossimi mesi piccole modelli di IA potrebbero imparare a diffondersi autonomamente su dispositivi IoT, formando botnet senza un controllo centralizzato. Secondo i ricercatori, tali worm IA potrebbero utilizzare le capacità di calcolo dei dispositivi infetti per funzionare e diffondersi ulteriormente.

Nel loro studio, gli ingegneri dell’azienda descrivono la potenziale minaccia. Secondo loro, gli agenti IA potrebbero individuare autonomamente dispositivi vulnerabili, hackerarli, copiare i pesi del modello su di essi e avviarne l’esecuzione direttamente sull’hardware infetto. In questo caso, agli agenti non servirebbe un accesso costante ai data center, e l’assenza di un centro di controllo unico potrebbe rendere difficile disattivare un tale botnet.

I ricercatori ritengono che in prima linea saranno i dispositivi IoT scarsamente protetti, come ad esempio le TV box economiche basate su Android, televisori “intelligenti”, telecamere e vari elettrodomestici. Si presume inoltre che un grande modello IA possa essere suddiviso in parti e distribuito tra più dispositivi IoT, unendo le loro capacità di calcolo.

Per verificare questo concetto, i ricercatori hanno acquistato 15 economiche TV box Android con 4 GB di memoria RAM a bordo (costo di circa 55 dollari USA ciascuna) e sono riusciti a eseguire su di esse un modello distribuito Gemma4-26B-A4B con 26 miliardi di parametri. Tuttavia, la velocità di esecuzione del modello è stata di soli 0,39 token al secondo.

Separatamente, gli esperti hanno verificato la capacità dell’IA di configurare autonomamente l’inferenza su hardware sconosciuto e hanno scoperto che il modello Qwen3.5-9B riesce a svolgere questo compito su otto dei nove tipi di dispositivi testati.

Successivamente, i ricercatori hanno simulato l’autodiffusione di un ipotetico worm IA, utilizzando una rete di otto dispositivi Android virtuali sotto il controllo dell’emulatore Android 15 (redroid). In quattro dei cinque test, il modello GLM-5.2 ha diffuso con successo Llama3.1-8B su tutti e otto i nodi, e nel quinto caso l’IA è riuscita a coprire sette degli otto dispositivi. Si sottolinea in particolare che altri modelli testati con pesi aperti non sono riusciti a ripetere stabilmente questo risultato.

Tuttavia, i ricercatori notano che finora non sono riusciti a creare un worm IA completamente autonomo. Tuttavia, secondo le previsioni di Anthropic, se le piccole modelli IA continueranno a svilupparsi ai ritmi attuali, entro la fine del 2026 potrebbero raggiungere il livello necessario, e la comparsa di worm IA auto-replicanti diventerà tecnicamente possibile.

I ricercatori riconoscono che tali botnet, molto probabilmente, si diffonderanno lentamente: per raddoppiare il numero di dispositivi infetti potrebbe essere necessario più di qualche giorno. Inoltre, il trasferimento dei pesi di modelli multi-gigabyte e lo scambio costante di dati tra dispositivi creeranno un traffico di rete notevole.

Gli esperti concludono che produttori e utenti dovrebbero rafforzare la protezione dei dispositivi IoT, rinunciare alle password predefinite e prestare maggiore attenzione al monitoraggio dell’attività di rete sospetta.

Carolina Vivianti

Carolina Vivianti è consulente/Advisor autonomo in sicurezza informatica con esperienza nel settore tech e security. Ha lavorato come Security Advisor per Ford EU/Ford Motor Company e Vodafone e ha studi presso la Sapienza Università di Roma.

Aree di competenza: Cybersecurity, IT Risk Management, Security Advisory, Threat Analysis, Data Protection, Cloud Security, Compliance & Governance