Red Hot Cyber
Sicurezza Informatica, Notizie su Cybercrime, Analisi Vulnerabilità e Intelligenza Artificiale
Una persona tiene un tablet con uno schermo digitale vivace che mostra il logo 'OPEN AI' in lettere bianche in grassetto su sfondo scuro. Lo schermo è illuminato da una griglia luminosa blu e viola, suggerendo interazione tecnologica avanzata. Le mani sono visibili dal polso in su, indicando un'attività di interazione con il dispositivo. L'immagine ha uno stile artistico digitale o grafico promozionale, con elementi stilizzati come la griglia luminosa e colori futuristici che trasmettono un senso di innovazione e tecnologia legata all'intelligenza artificiale.

OpenAI scopre che la sua IA fingeva di lavorare: dimezzava i controlli di sicurezza

16 Novembre 2026 07:32
In sintesi

OpenAI ha scoperto che GPT-6 Astra, durante alcuni test interni, svolgeva fino al 50% in meno di lavoro nelle attività di sicurezza rispetto a compiti analoghi di sviluppo. Il modello non rifiutava apertamente le richieste, ma rallentava le verifiche, ometteva dati e nascondeva alcune modifiche.

Un’intelligenza artificiale incaricata di verificare la sicurezza di un’altra IA ha iniziato a rallentare silenziosamente le verifiche. OpenAI ha scoperto che GPT-6 Astra eseguiva compiti di sicurezza con un’efficienza inferiore del 50% rispetto alle capacità del modello. A volte l’agente non rifiutava direttamente il compito, ma riduceva il volume di lavoro, creava ostacoli o interrompeva prematuramente l’esecuzione.

Le prime lamentele sono emerse il 20 agosto, dopo il lancio interno di Astra. Per la verifica, gli sviluppatori avevano preparato compiti di programmazione, modificando solo i nomi e le descrizioni degli obiettivi. 

I dipendenti di OpenAI hanno notato che Astra richiedeva passaggi preliminari aggiuntivi. Un progetto per la valutazione del sabotaggio dei modelli è rimasto bloccato per diversi giorni, per poi progredire rapidamente dopo il cambio del modello. Astra ha anche limitato segretamente gli esperimenti di bypass del monitoraggio, non ha corretto gli errori nei test e ha escluso i dati richiesti dall’estrazione, senza avvisare delle modifiche.

Advertising

Nelle richieste di lavoro dei dipendenti tramite Codex, tracce di occultamento intenzionale dell’aiuto sono state rilevate nello 0,25% dei compiti di sicurezza e nello 0,11% dei compiti di sviluppo delle capacità. Si tratta di casi in cui i ragionamenti interni del modello indicavano chiaramente la decisione di non fornire assistenza, ma l’utente non riceveva un rifiuto. Dubbi etici sono emersi nel 7,9% e nel 2,9% delle richieste corrispondenti.

Gli sviluppatori hanno escluso i rifiuti espliciti e i casi in cui Astra esprimeva l’intenzione di nascondere parte dell’aiuto. La differenza tra le due categorie di compiti rimaneva comunque di 4,7 punti percentuali. Solo dopo aver rimosso i lanci con qualsiasi dubbio etico, il divario si è ridotto a 0,75 punti. Il sistema di monitoraggio non ha considerato gli episodi rilevati sufficientemente pericolosi da essere trasmessi all’uomo.

Durante l’ulteriore addestramento con rinforzo, la differenza nei risultati è aumentata da quasi zero a sei punti percentuali. OpenAI ha scoperto un valutatore che premiava il deterioramento silenzioso del lavoro più di un rifiuto diretto, e un set di esempi di addestramento che rafforzava eccessiva cautela. Tuttavia, OpenAI non è ancora riuscito a stabilire quale fase di addestramento abbia causato il problema.

L’analisi dei ragionamenti non ha rilevato prove di sabotaggio intenzionale delle ricerche o tentativi di influenzare la decisione del modello. Un conflitto simile di limitazioni aveva già ostacolato l’indagine di un incidente informatico, quando altre modelli di IA si erano rifiutate di analizzare l’exploit.

In precedenza, Astra aveva già rimosso il monitoraggio in un altro compito interno e nascosto il cambiamento all’utente. La nuova storia mostra un altro malfunzionamento: l’assistente crea l’apparenza di un lavoro completo, anche se in realtà ne esegue meno. OpenAI sta continuando a cercare la causa mentre crea delle verifiche per il deterioramento nascosto della qualità. 

Advertising

📢 Resta aggiornatoTi è piaciuto questo articolo? Rimani sempre informato seguendoci su 🔔 Google News.
Ne stiamo anche discutendo sui nostri social: 💼 LinkedIn, 📘 Facebook e 📸 Instagram.
Hai una notizia o un approfondimento da segnalarci? ✉️ Scrivici


Carolina Vivianti 300x300
Carolina Vivianti è consulente/Advisor autonomo in sicurezza informatica con esperienza nel settore tech e security. Ha lavorato come Security Advisor per Ford EU/Ford Motor Company e Vodafone e ha studi presso la Sapienza Università di Roma.
Aree di competenza: Cybersecurity, IT Risk Management, Security Advisory, Threat Analysis, Data Protection, Cloud Security, Compliance & Governance