OpenAI crea il Lockdown Mode: ecco come ChatGPT prova a fermare il furto di dati

OpenAI ha avviato il rilascio della Modalità di Blocco ChatGPT, una funzione progettata per ridurre il rischio di esfiltrazione dati attraverso attacchi di prompt injection. La protezione limita l'accesso alla rete, disabilita strumenti avanzati come Ricerca Approfondita e Modalità Agente e restringe l'uso di servizi esterni. Pur non impedendo l'esecuzione di istruzioni malevole presenti nei contenuti analizzati, la misura punta a ostacolare il trasferimento di informazioni sensibili verso gli aggressori.

Gli sviluppatori di OpenAI hanno introdotto una nuova modalità di sicurezza per ChatGPT: la Lockdown Mode. Questa funzionalità è progettata per ridurre il rischio di fughe di informazioni tramite prompt injection, attacchi in cui gli aggressori inseriscono istruzioni AI nascoste in documenti, pagine web o altri contenuti.

La modalità Lockdown Mode è attualmente in fase di implementazione graduale per i titolari di account personali di ChatGPT (inclusi i piani gratuiti) ed è disponibile anche per gli utenti di ChatGPT Business. L’azienda sottolinea che la modalità non è attualmente destinata a un pubblico generico, ma si rivolge principalmente ad organizzazioni e professionisti che necessitano di una maggiore protezione contro potenziali violazioni dei dati.

Le prompt injection sono giustamente considerate uno dei principali problemi che affliggono i moderni sistemi di intelligenza artificiale. Le istruzioni nascoste possono costringere gli agenti IA a rivelare informazioni sensibili o a compiere azioni indesiderate. OpenAI osserva che questo problema non è ancora stato completamente risolto, pertanto l’azienda continua a implementare una protezione multilivello a livello di modello, prodotto e infrastruttura.

La modalità di blocco è progettata per complicare la fase finale di tali attacchi: l’esfiltrazione dei dati dal sistema. A tal fine, la modalità limita le comunicazioni di rete che potrebbero essere utilizzate per trasmettere informazioni agli aggressori.

Dopo aver attivato la nuova modalità, ChatGPT perde l’accesso a molte funzionalità. In particolare, Ricerca approfondita e Modalità agente vengono disabilitate e la ricerca web passa a una modalità limitata, utilizzando solo i contenuti memorizzati nella cache.

Inoltre, ChatGPT non può scaricare file dalla rete per l’analisi, recuperare immagini da Internet e limita l’utilizzo di servizi e connettori esterni. Tuttavia, la generazione di immagini e il caricamento manuale dei file rimangono disponibili. La modalità di blocco non disabilita la memoria di ChatGPT, non modifica i parametri di addestramento del modello sui dati utente e non influisce su Codex.

L’azienda sottolinea che la Modalità di blocco non protegge direttamente dalle iniezioni di prompt né impedisce che vengano incorporate nei contenuti elaborati. Se un prompt dannoso è già presente in un documento scaricato o in un contenuto web, può comunque influenzare il comportamento del modello. La nuova protezione riduce soltanto la probabilità che gli aggressori riescano a esfiltrare i dati.

Carolina Vivianti

Carolina Vivianti è consulente/Advisor autonomo in sicurezza informatica con esperienza nel settore tech e security. Ha lavorato come Security Advisor per Ford EU/Ford Motor Company e Vodafone e ha studi presso la Sapienza Università di Roma.

Aree di competenza: Cybersecurity, IT Risk Management, Security Advisory, Threat Analysis, Data Protection, Cloud Security, Compliance & Governance