Intelligenza artificiale e sicurezza? Ma che tragedia!

Una semplice idea per semplificare la gestione della rete domestica e migliorarne la sicurezza si è inaspettatamente trasformata in una serie di errori quasi catastrofici, tutto a causa dei consigli di noti assistenti di intelligenza artificiale.

Invece di risparmiare tempo e ridurre i rischi, un giornalista di Cybernews, affidandosi ai chatbot, si è imbattuto in suggerimenti che avrebbero potuto esporre i suoi servizi locali all’intera rete, Internet.

Il tentativo di centralizzare l’accesso al pannello di controllo e ad altri servizi infrastrutturali domestici è nato da un desiderio del tutto ragionevole: sostituire gli indirizzi IP con nomi di dominio intuitivi e le connessioni HTTP non protette con TLS sicuro. L’architettura in sé era tipica: pfSense come firewall, storage TrueNAS e un hypervisor Proxmox che ospitava macchine virtuali e container. Invece della configurazione manuale, il proprietario ha deciso di utilizzare l’intelligenza artificiale.

Quasi tutti i principali modelli di linguaggio, inclusi ChatGPT, Claude e Gemini, raccomandavano all’unanimità di pubblicare i record DNS, mappando i sottodomini all’IP di casa. Questo passaggio suggeriva di esporre i componenti interni, da pfSense a TrueNAS, con i propri nomi, aggiungendo il requisito di aprire le porte 80 e 443. Da un punto di vista tecnico, questo approccio incoraggia gli utenti a pubblicare online servizi critici, rendendoli facili bersagli per scanner di massa e bot.

Successivamente, quando sono stati avvisati di potenziali minacce, gli assistenti “sono tornati in sé” e hanno ammesso che il protocollo TLS all’interno della rete locale poteva essere configurato diversamente. Tuttavia, inizialmente, nessuno dei modelli offriva un metodo sicuro e ampiamente adottato.

Quando si è trattato di installare NGINX Proxy Manager, uno strumento per il routing del traffico e l’ottenimento automatico dei certificati TLS, l’IA ha nuovamente fornito raccomandazioni scadenti. Dopo aver messo in guardia contro l’esecuzione di script di terze parti da Internet, Gemini ne ha generato uno proprio, con due vulnerabilità critiche. In primo luogo, il container veniva eseguito come utente root, con il rischio di uscire dalla sandbox. In secondo luogo, si connetteva inutilmente al database MariaDB con credenziali predefinite, il che, se lo script fosse stato copiato in modo improprio, avrebbe potuto compromettere l’intero sistema.

In molti casi, gli assistenti si sono semplicemente attenuti alle affermazioni dell’utente, senza chiarire i dati di input o l’architettura del laboratorio domestico. Ad esempio, quando si sono verificati problemi con i container Debian in Proxmox, l’assistente non ha indagato sulla causa e ha semplicemente suggerito di passare a una macchina virtuale completa, che consuma più risorse. Nessuno di loro ha suggerito di utilizzare i client ACME direttamente nei servizi, sebbene questo sia il metodo standard per il rilascio dei certificati.

Inoltre, nessuno dei modelli specificava che, anche utilizzando un proxy all’interno della rete, il traffico potesse rimanere non crittografato senza misure aggiuntive. Ciò ha portato il proprietario dell’infrastruttura domestica, affidandosi all’intelligenza artificiale, a esporre quasi completamente la rete interna, installando al contempo componenti vulnerabili con una protezione minima.

Come osserva l’autore, tutorial video e documentazione fornirebbero risposte molto più rapide e sicure rispetto a dialoghi di ore con modelli linguistici. Nel frattempo, le grandi aziende IT continuano a segnalare una quota crescente di codice scritto da reti neurali , senza distinguere tra potenziale efficacia e minacce reali. Gli errori nelle raccomandazioni si accumulano e, se l’utente non possiede conoscenze tecniche approfondite, il risultato potrebbe essere una completa compromissione del sistema.

Ti è piaciuto questo articolo? Ne stiamo discutendo nella nostra Community su LinkedIn, Facebook e Instagram. Seguici anche su Google News, per ricevere aggiornamenti quotidiani sulla sicurezza informatica o Scrivici se desideri segnalarci notizie, approfondimenti o contributi da pubblicare.

Luca Vinciguerra

Machine Learning Engineer specializzato nel Natural Language Processing. Appassionato di Intelligenza Artificiale, Coding e tecnologia in generale. Aspetta l'avvento di Skynet.

Aree di competenza: Artificial Intelligence Engineer, Machine Learning & Deep Learning Specialist, Python Developer