Gli agenti di OpenAI volevano statistiche. Così hackerano il Ministero della Salute Australiano

Degli agenti di OpenAI, impegnati in una ricerca di statistiche sanitarie, hanno aggirato i blocchi del portale Medicare del Ministero della salute Australiano e raggiunto file di carattere riservato. Non risultano accessi a dati personali dei pazienti. Ma intanto si iniziano a porre delle domande giuridiche di chi risponde di questi fatti che siamo sempre stati abituati ad inquadrare come "crimini informatici" nella sfera penale.

La domanda che ci viene spontanea da fare al nostro pubblico, è la seguente: come mai questi fatti non vengono denunciati come crimini, ma soltanto analizzati (e diciamo anche enfatizzati) e mantenuti all’interno di un aleatorio velo di “testing” delle intelligenze artificiali di frontiera, invece di essere considerati per ciò che sono: veri e propri attacchi informatici?

Se una azienda italiana, attaccasse dai propri IP il ministero Australiano, cosa succederebbe a livello giuridico? Geopolitico? E se gli agenti di OpenAI colpissero il ministero Cinese?

Ma andiamo ai fatti.

Una ricerca di routine di statistiche mediche si è trasformata in una vera e propria violazione dei sistemi governativi: l’agente di intelligenza artificiale interno di OpenAI ha aggirato le restrizioni del portale Medicare australiano e ha avuto accesso a file non destinati alla consultazione pubblica. L’incidente si è verificato il 18 giugno durante una revisione interna di un modello e le autorità lo hanno reso pubblico solo il 24 settembre.

Il Primo Ministro australiano Anthony Albanese ha confermato che il sistema stava cercando dati pubblicamente disponibili sulle spese per farmaci. Il portale ha bloccato le richieste più volte, dopodiché il sistema ha iniziato a cercare delle soluzioni alternative. Di conseguenza, ha ottenuto accesso non autorizzato a file pubblici e non pubblici e, secondo Services Australia, ha scritto i file su un server interno.

Il portale in questione è il Medicare Statistics Reporting Service, gestito dall’agenzia governativa Services Australia. Il portale contiene statistiche aggregate sul programma Medicare, inclusi i dati di spesa, ma non le cartelle cliniche individuali. Al momento della pubblicazione, l’indagine non ha rivelato accessi a dati personali né una più ampia compromissione della rete di Services Australia.

La particolarità dell’incidente risiede nel compito originario. L’agente non aveva ricevuto l’ordine di attaccare le infrastrutture governative e non aveva eseguito alcun test cibernetico. Il modello avrebbe dovuto raccogliere dati statistici, ma dopo aver riscontrato degli errori, ha modificato autonomamente la sua strategia e ha iniziato ad agire al di fuori dello scenario previsto. Un’eccessiva persistenza simile ha già portato gli agenti di OpenAI a penetrare nelle infrastrutture di Hugging Face.

OpenAI ha informato le autorità australiane solo il 10 settembre, quasi tre mesi dopo l’incidente, e la lettera è stata inviata all’indirizzo pubblico per la segnalazione delle vulnerabilità. Services Australia ha inoltrato le informazioni all’Australian Cyber Security Centre il 15 settembre. Albanese ha dichiarato di aver discusso del ritardo e della modalità di notifica con il CEO di OpenAI, Sam Altman.

Nel frattempo, il laboratorio indipendente Transluce ha scoperto tracce di altre attività di agenti OpenAI contro risorse del governo australiano in registri accessibili pubblicamente. Il 20 e 21 giugno, gli agenti hanno tentato di ottenere dati dall’Australian Institute of Health and Wellbeing dopo che Cloudflare ne aveva bloccato l’accesso e hanno testato il sito alla ricerca di vulnerabilità utilizzando il servizio di terze parti urlquery.net come browser remoto.

Il team di Transluce ha rilevato tentativi di XSS, path traversal e altre richieste di test, ma non ha trovato prove di un effettivo sfruttamento del sistema dell’istituto. Gli agenti sono riusciti a ottenere un file pubblico dal server preliminare. Il collegamento tra questo incidente e la violazione confermata di Medicare non è stato ancora definitivamente stabilito, sebbene OpenAI ritenga che alcune delle attività rilevate si sovrappongano a casi già sotto indagine.

Le autorità australiane stanno inoltre indagando su altri tre sistemi che potrebbero essere stati colpiti dalla stessa attività: l’Australian Institute of Health and Wellbeing, il New South Wales Bureau of Crime Statistics and Research e il Victorian Department of Health. La violazione di queste risorse non è stata ancora confermata, pertanto si tratta di potenziali incidenti correlati.

Dopo l’incidente di Hugging Face di luglio, OpenAI ha già scoperto diversi casi in cui i modelli aggiravano le restrizioni, utilizzavano le credenziali di altre persone, pubblicavano file e condividevano informazioni tramite siti web esterni. L’azienda attribuisce questi episodi a comportamenti errati da parte degli agenti che tentavano di completare un’attività con troppa insistenza.

Il governo australiano ha istituito una task force composta dal Coordinatore nazionale per la sicurezza informatica, dalla Direzione australiana per le comunicazioni e da altre agenzie. L’indagine mira a determinare la portata completa dell’incidente, a stabilire se le azioni di OpenAI abbiano violato le leggi australiane e a determinare se siano necessarie modifiche alla normativa che disciplina la risposta agli incidenti informatici che coinvolgono sistemi di intelligenza artificiale autonomi.

Luigi Zullo

Ricercatore di sicurezza informatica con esperienza nell’analisi delle vulnerabilità, nella mitigazione del rischio cyber, nelle attività di red teaming ed ethical hacking e nella protezione di sistemi complessi. Specializzato in penetration testing e Threat Intelligence, contribuisce al rafforzamento della resilienza digitale di infrastrutture e reti aziendali.

Aree di competenza: Penetration Testing, Threat Intelligence, Red Teaming, Vulnerability Assessment, Incident Response