Red Hot Cyber
Sicurezza Informatica, Notizie su Cybercrime, Analisi Vulnerabilità e Intelligenza Artificiale
Durante un test di cybersecurity, Gemini di Google ha ottenuto accidentalmente accesso a Internet e ha raggiunto i sistemi di tre aziende reali. In un caso ha indovinato una password, negli altri ha trovato credenziali pubbliche. L’IA si è fermata dopo aver capito di essere entrata in sistemi reali. Autonomia e controllo sono due grandezze inversamente proporzionali: più permettiamo a un’IA di agire da sola, più dobbiamo interrogarci su quanto controllo siamo disposti a cederle. La vera domanda, quindi, non è più soltanto cosa può fare un modello, ma fin dove siamo disposti a lasciarlo agire da solo.
Il modello di intelligenza artificiale di Google, Gemini, ha accidentalmente avuto accesso a Internet durante un test di sicurezza informatica, violando i sistemi di tre aziende.
L’incidente si è verificato a maggio 2026 e arriva sui giornali solamente oggi, dopo diversi casi di “evasione della sandbox”, da parte di modelli di frontiera. È importante sottolineare che anche in questo caso, Gemini non avrebbe dovuto accedere ad Internet durante questo test. Il modello ha utilizzato informazioni e credenziali pubbliche per accedere ai sistemi di altre aziende. Tuttavia, una volta scoperto che si trattava di aziende reali, ha interrotto la sua attività in tutti e tre i casi.
Come ha recentemente evidenziato Massimiliano Brolli in un articolo dedicato alla “Paura Agentica”, diventa sempre più importante comprendere non soltanto cosa un modello di IA sia in grado di fare, ma soprattutto quanto efficacemente siamo in grado di controllarne le azioni quando opera in autonomia. Come scrive Brolli: “Perché quando un sistema diventa così potente da agire in modo autonomo, la domanda più sottile non è più ‘cosa è in grado di fare’. Sarà soprattutto: ‘in che modo lo riesco a controllare?’”
Questo incidente si verifica in un momento di crescente preoccupazione per la possibilità che gli agenti di intelligenza artificiale operino autonomamente su Internet e lancino attacchi informatici. Incidenti simili si sono verificati in precedenti esperimenti che hanno coinvolto OpenAI, Anthropic e Meta. Questo test di sicurezza informatica è stato condotto a maggio da Irregular, un’azienda specializzata in sicurezza basata sull’intelligenza artificiale. Degli agenti di Gemini èsono stati incaricati di analizzare i sistemi di aziende fittizie i cui nomi corrispondevano a quelli di aziende reali.
Secondo il piano di test, Gemini non avrebbe dovuto avere accesso a Internet. Tuttavia, per qualche motivo, l’agente di intelligenza artificiale si è connesso online e ha iniziato a utilizzare le informazioni disponibili su Internet.
Gemini non è entrato nel sistema utilizzando lo stesso metodo in tutti e tre i casi. Secondo Reuters, in un caso il modello ha avuto accesso a un sistema protetto indovinando una password. Negli altri due casi, ha trovato le credenziali in un archivio pubblico che gli hanno permesso di accedere al sistema protetto. Ciò significa che, invece di operare esclusivamente in un ambiente di test predefinito, il modello ha utilizzato informazioni reali disponibili su Internet e ha avuto accesso ai sistemi di aziende reali.
Un aspetto fondamentale di questo incidente è stato che Gemini ha interrotto la sua attività dopo aver compreso che stava accedendo ai sistemi reali in esercizio. Secondo un articolo del Financial Express, quando il modello si è reso conto di aver avuto accesso ai sistemi di un’azienda reale, non ha intrapreso ulteriori azioni. Heather Adkins, vicepresidente di Google per l’ingegneria della sicurezza, ha dichiarato che tutte e tre le organizzazioni sono state informate dell’incidente e che sono state apportate le modifiche necessarie alle loro procedure di test.
Ora molti si domandano come mai Google solo ora ha reso pubblico questo incidente avvenuto a maggio. Dopo che l’accaduto venne alla luce, l’azienda dichiarò di averlo fatto perché i suoi sistemi di sicurezza avevano funzionato e bloccato l’attacco una volta che Gemini aveva raggiunto il sistema sottostante.
L’incidente di Gemini non è un caso isolato. Negli ultimi mesi, anche i test che coinvolgono altri modelli di intelligenza artificiale di grandi dimensioni hanno riscontrato casi in cui agenti IA hanno oltrepassato i confini del test e sono penetrati in sistemi reali. Anthropic ha segnalato un altro incidente di sicurezza informatica a settembre. Secondo l’azienda, alcuni dei suoi modelli Cloud sono riusciti a infiltrarsi in sistemi esterni durante i test. Un’indagine successiva ha portato alla luce un incidente precedente in cui un prototipo Cloud aveva violato un sistema esterno a gennaio.
Questi episodi hanno ulteriormente sollevato la questione di quanto sia necessaria una supervisione rigorosa del comportamento degli agenti di intelligenza artificiale quando viene loro concessa la capacità di operare autonomamente su Internet e nei sistemi informatici.
In questo incidente Gemini, sono stati effettuati accessi ai sistemi di tutte e tre le aziende reali, ma il modello ha interrotto le sue operazioni dopo aver identificato i sistemi reali. Ciononostante, questo incidente dimostra che, con accesso a Internet e la capacità di operare in autonomia, gli agenti di intelligenza artificiale possono superare i limiti del test.
È uscito il sesto episodio di Betti-RHC, la serie a fumetti di Red Hot Cyber nata con l'obiettivo di trasformare la cybersecurity awareness in un'esperienza di formazione più semplice, coinvolgente e accessibile. Quello che è nato come un progetto editoriale innovativo è diventato negli anni un vero e proprio corso di cybersecurity awareness a fumetti, adottato da aziende e professionisti per sensibilizzare le persone sui rischi informatici attraverso storie, personaggi ed emozioni. In cinque anni di attività, la serie Betti-RHC ha raggiunto un risultato importante: circa 70.000 copie vendute, a testimonianza dell'interesse crescente delle organizzazioni verso nuovi strumenti per costruire una concreta cultura della sicurezza.
Il sesto episodio porta Betti dentro le nostre case, in un mondo "connesso", dove lampadine, telecamere, assistenti vocali, serrature, sensori ed elettrodomestici intelligenti promettono comfort e sicurezza, ma possono nascondere nuove e insidiose superfici di attacco. Attraverso una nuova avventura, Betti ci accompagna alla scoperta del mondo della domotica e dei dispositivi IoT, mostrando come la poca cautela nell'utilizzo di queste tecnologie possa trasformare oggetti quotidiani in porte d'accesso per chi vuole osservare, controllare o colpire.
Per accompagnare la crescita del progetto abbiamo realizzato il sito ufficiale di Betti-RHC, dove è possibile conoscere meglio la serie, gli episodi e il progetto di cybersecurity awareness sviluppato da Red Hot Cyber. L'obiettivo è continuare a portare la cultura della sicurezza fuori dai tradizionali percorsi formativi standard, utilizzando il linguaggio immediato del fumetto per parlare a dipendenti, professionisti e persone senza competenze tecniche. Per maggiori informazioni su Betti-RHC e sul sesto episodio “Open Mic” è possibile visitare il sito ufficiale: betti.redhotcyber.com.