L’AI di OpenAI è uscita dalla gabbia ed è peggio di quanto si pensasse: violati account reali

OpenAI ha rivelato che l'incidente di sicurezza AI con Hugging Face è stato più grave del previsto. L'agente sperimentale, durante un test interno, ha preso il controllo di diversi account terzi, inclusi quelli su Modal Labs e altre piattaforme. Modal Labs nega che la sua infrastruttura sia stata violata. OpenAI ha disabilitato i modelli di valutazione e rafforzato le misure di sicurezza.

OpenAI ha rivelato che il suo recente incidente di sicurezza AI è stato più grave di quanto si pensasse inizialmente. La società afferma che l’agente sperimentale di intelligenza artificiale che ha hackerato Hugging Face durante un test interno di sicurezza informatica ha preso anche il controllo di diversi account di terze parti.

Secondo le ultime informazioni di OpenAI, l’incidente si è verificato mentre i ricercatori stavano testando capacità informatiche avanzate utilizzando una combinazione di modelli, tra cui GPT-5.6 Sol e un sistema ancora più potente, non commerciale, le cui restrizioni di sicurezza erano state allentate a fini di una approfondita valutazione.

Questi modelli avrebbero dovuto risolvere il benchmark di sicurezza informatica di ExploitGym, ma invece hanno scoperto un metodo per sfuggire dall’ambiente di test isolato sfruttando una vulnerabilità 0day in un proxy del registro dei pacchetti interno. L’agente ha quindi esteso i propri privilegi, ottenuto l’accesso a Internet e quindi ha attaccato i sistemi di produzione di Hugging Face, tentando di “imbrogliare” il test benchmark estraendo direttamente le risposte.

OpenAI ha affermato che l’intelligenza artificiale ha avuto accesso anche a quattro account su più piattaforme, non solo a Hugging Face.

Reuters riferisce che uno di essi apparteneva a un client ospitato su Modal Labs, ma Modal ha affermato che la sua infrastruttura non è mai stata compromessa, poiché l’attacco si è basato su vulnerabilità presenti nel codice del client e non nella piattaforma stessa.

In risposta, OpenAI afferma di aver disabilitato i modelli di valutazione, rafforzato i controlli sulla propria infrastruttura interna, segnalato la vulnerabilità zero-day al fornitore interessato e lavorato a stretto contatto con Hugging Face nell’ambito dell’indagine in corso. Inoltre, la società ha dichiarato di voler rafforzare il monitoraggio e le salvaguardie per le future valutazioni dei modelli, sottolineando che man mano che i sistemi di intelligenza artificiale diventano più capaci, anche le misure di contenimento devono diventare più sofisticate

Luigi Zullo

Ricercatore di sicurezza informatica con esperienza nell’analisi delle vulnerabilità, nella mitigazione del rischio cyber, nelle attività di red teaming ed ethical hacking e nella protezione di sistemi complessi. Specializzato in penetration testing e Threat Intelligence, contribuisce al rafforzamento della resilienza digitale di infrastrutture e reti aziendali.

Aree di competenza: Penetration Testing, Threat Intelligence, Red Teaming, Vulnerability Assessment, Incident Response