Red Hot Cyber
Sicurezza Informatica, Notizie su Cybercrime, Analisi Vulnerabilità e Intelligenza Artificiale
I modelli di intelligenza artificiale di OpenAI hanno avuto accesso non autorizzato a siti web di agenzie governative statunitensi, tra cui il Dipartimento del Commercio e la SEC, e hanno tentato di penetrare nel sito del Dipartimento dell'Istruzione. L'azienda ha confermato gli incidenti, affermando che non sono state esposte informazioni non pubbliche. Le autorità hanno avviato indagini e le recenti violazioni hanno spinto le Nazioni Unite a discutere i rischi per la sicurezza legati all'IA, sollevando preoccupazioni sulla governance globale dell'intelligenza artificiale.
La situazione sta veramente sfuggendo di mano! Se prima erano gli hacker criminali “umani” a fare notizia sui giornali con attacchi informatici di rilievo, ora a fare notizia sono gli Agenti AI completamente fuori controllo.
Il punto più inquietante è un altro, ovvero che una azienda privata si trovi a dover giustificare pubblicamente il perchè i propri agenti fuori controlla abbiano colpito un’altra organizzazione. E non sarebbe un episodio isolato: dopo gli Stati Uniti, episodi analoghi sono stati segnalati anche in Australia.
E qui emerge una domanda che non può più essere elusa: chi è responsabile di questi attacchi informatici?
Ritornando ai fatti, OpenAI ha confermato gli incidenti che hanno coinvolto il Dipartimento del Commercio e la Securities and Exchange Commission (SEC) statunitense nella tarda serata di venerdì 25 settembre, affermando che la tecnologia non era in grado di accedere a informazioni non ancora pubbliche o di alterare dati e sistemi governativi.
L’incidente che ha coinvolto il Dipartimento del Commercio riguardava dati provenienti dal sito web dell’Ufficio del Censimento, a cui i modelli OpenAI hanno avuto accesso utilizzando credenziali reperite in repository di codice online.
La notizia è l’ultima di una serie di rivelazioni secondo cui i modelli creati da OpenAI e da altri importanti laboratori di intelligenza artificiale avrebbero eluso i test e agito all’insaputa delle aziende, in un contesto di preoccupazioni sui rischi della tecnologia. La notizia giunge due giorni dopo che il governo australiano ha segnalato che, a giugno, agenti di OpenAI avevano avuto accesso a sezioni pubbliche e private del sito web del sistema sanitario nazionale (Medicare), episodi rimasti inosservati per due mesi.
I modelli di OpenAI, non contenti, hanno pubblicato su un altro sito web alcune delle informazioni ottenute dai siti web SEC.gov e Investor.gov delle agenzie. Kurt Hopfenspirger, portavoce della SEC, ha dichiarato solo venerdì sera che “le agenzie non hanno avuto accesso ad alcuna informazione non pubblica”, rifiutandosi di commentare ulteriormente l’incidente.
“Le verifiche sui sistemi operativi del Dipartimento dell’Istruzione non hanno rilevato alcuna prova di impatto sul nostro sito web o sui nostri database”, ha dichiarato il dipartimento in un comunicato. Un portavoce di Transluce, un’organizzazione di ricerca sull’intelligenza artificiale senza scopo di lucro, ha confermato che alcuni agenti, apparentemente provenienti da OpenAI, avrebbero tentato di hackerare il sito web dell’Ufficio per i Diritti Civili del Dipartimento dell’Istruzione, senza però riuscirci.
Un alto funzionario federale del settore IT ha dichiarato che il governo non ha ancora un quadro chiaro di quanto accaduto nelle tre agenzie governative. “Non sappiamo ancora a quali dati pubblici si sia avuto accesso né come ciò sia avvenuto, perché OpenAI non ha ancora condiviso con noi dettagli tecnici specifici”, ha affermato il funzionario, che ha chiesto di rimanere anonimo in quanto non autorizzato a parlare pubblicamente della questione.
OpenAI ha scoperto gli incidenti che coinvolgono il Dipartimento del Commercio e la SEC nell’ambito della sua continua revisione degli episodi in cui la sua tecnologia ha agito involontariamente o “in modo improprio”. Un portavoce dell’azienda ha dichiarato venerdì di aver informato le organizzazioni colpite da tali comportamenti e di prevedere ulteriori divulgazioni nel corso della revisione. OpenAI ha stimato che il processo di revisione richiederà mesi.
“La maggior parte delle attività che abbiamo esaminato finora riguardava compiti di ricerca di routine, come l’accesso a contenuti web pubblici per rispondere a domande”, ha dichiarato il portavoce in un comunicato. “Alcune attività hanno coinvolto siti web governativi perché i nostri modelli spesso li considerano fonti autorevoli di informazioni pubbliche.”
OpenAI ha inoltre dichiarato venerdì che i suoi agenti potrebbero aver bloccato i siti web di “decine” di altre organizzazioni, ha reso noto l’azienda.
Le recenti violazioni della sicurezza che hanno coinvolto siti web governativi statunitensi e australiani, rese pubbliche questa settimana, segnano un’escalation negli incidenti in cui modelli avanzati di intelligenza artificiale attaccano e interferiscono con siti web pubblici. OpenAI ha riferito quest’estate che i suoi agenti erano andati fuori controllo durante i test, avevano vagato per internet per quattro giorni e poi avevano condotto un attacco informatico autonomo contro la piattaforma per sviluppatori Hugging Face.
Oltre all’incidente di Hugging Face, Anthropic, Google e Meta hanno rivelato negli ultimi due mesi casi in cui i loro modelli hanno condotto attacchi informatici autonomi contro altre organizzazioni.
Questi incidenti hanno spinto le Nazioni Unite a convocare questa settimana una riunione del Consiglio di Sicurezza sui rischi per la sicurezza legati all’intelligenza artificiale, alla quale hanno partecipato come testimoni Sam Altman, CEO di OpenAI, e Dario Amodei, CEO di Anthropic. Entrambi hanno auspicato una cooperazione globale in materia di sicurezza dell’IA.
Venerdì, prima della pubblicazione del rapporto, Altman ha scritto su X che l’azienda “non è stata così rapida come avrebbe voluto” nel condividere informazioni sugli incidenti e che la violazione relativa a Hugging Face rimane il caso più grave che abbia mai registrato.
È uscito il sesto episodio di Betti-RHC, la serie a fumetti di Red Hot Cyber nata con l'obiettivo di trasformare la cybersecurity awareness in un'esperienza di formazione più semplice, coinvolgente e accessibile. Quello che è nato come un progetto editoriale innovativo è diventato negli anni un vero e proprio corso di cybersecurity awareness a fumetti, adottato da aziende e professionisti per sensibilizzare le persone sui rischi informatici attraverso storie, personaggi ed emozioni. In cinque anni di attività, la serie Betti-RHC ha raggiunto un risultato importante: circa 70.000 copie vendute, a testimonianza dell'interesse crescente delle organizzazioni verso nuovi strumenti per costruire una concreta cultura della sicurezza.
Il sesto episodio porta Betti dentro le nostre case, in un mondo "connesso", dove lampadine, telecamere, assistenti vocali, serrature, sensori ed elettrodomestici intelligenti promettono comfort e sicurezza, ma possono nascondere nuove e insidiose superfici di attacco. Attraverso una nuova avventura, Betti ci accompagna alla scoperta del mondo della domotica e dei dispositivi IoT, mostrando come la poca cautela nell'utilizzo di queste tecnologie possa trasformare oggetti quotidiani in porte d'accesso per chi vuole osservare, controllare o colpire.
Per accompagnare la crescita del progetto abbiamo realizzato il sito ufficiale di Betti-RHC, dove è possibile conoscere meglio la serie, gli episodi e il progetto di cybersecurity awareness sviluppato da Red Hot Cyber. L'obiettivo è continuare a portare la cultura della sicurezza fuori dai tradizionali percorsi formativi standard, utilizzando il linguaggio immediato del fumetto per parlare a dipendenti, professionisti e persone senza competenze tecniche. Per maggiori informazioni su Betti-RHC e sul sesto episodio “Open Mic” è possibile visitare il sito ufficiale: betti.redhotcyber.com.