Red Hot Cyber
Sicurezza Informatica, Notizie su Cybercrime, Analisi Vulnerabilità e Intelligenza Artificiale
Anthropic ha annunciato di voler rimuovere un codice nascosto da Claude Code dopo la scoperta di marcatori di tracciamento da parte dei ricercatori di sicurezza. Il codice era utilizzato per identificare proxy, gateway e rivenditori di account. La società afferma che le misure di sicurezza più rigorose sono già state implementate.
Un nuovo capitolo si apre nella vicenda di Claude Code: dopo la revisione di aprile delle funzioni nascoste e della telemetria nello strumento Anthropic, è stato scoperto un altro meccanismo controverso.
Questa volta non si tratta di accesso ai file o gestione delle impostazioni, bensì a marcatori nascosti nel contesto di sistema che hanno permesso all’azienda di identificare proxy, gateway, rivenditori di account e possibili tentativi di copia dei modelli.
Tariq Shikhipar, ingegnere di Claude Code, ha riferito che Anthropic sta rimuovendo il codice nascosto dallo strumento. Ha affermato che l’esperimento è stato avviato a marzo per contrastare la rivendita non autorizzata degli account e la distillazione dei modelli. La distillazione è un tentativo di replicare il comportamento di un modello di intelligenza artificiale attraverso richieste multiple al sistema originale.
Shikhipar ha dichiarato che il team aveva già implementato misure di sicurezza più rigorose e che la disattivazione del vecchio meccanismo era prevista da tempo. Una richiesta di pull del codice è già stata inviata al ramo principale e si prevede che verrà inclusa nella prossima versione di Claude Code.
Il meccanismo è stato scoperto da uno sviluppatore di nome Thereallo, il quale ha descritto in dettaglio questo comportamento con un post sul suo blog. Secondo lui, Claude Code utilizzava la steganografia, ovvero nascondeva i dati di servizio nel normale contesto di sistema, dati che venivano inviati ai server di Anthropic.
Lo strumento controllava una variabile d’ambiente contenente l’indirizzo API di base utilizzato per i proxy o i gateway. Se l’utente modificava l’indirizzo, il codice confrontava il fuso orario e il nome di dominio del sistema con un elenco che includeva laboratori di intelligenza artificiale cinesi, altre aziende, rivenditori di account e servizi gateway.
Thereallo ha riconosciuto che il tentativo di trovare i domini di concorrenti o intermediari sembra comprensibile, ma ha criticato l’implementazione furtiva. Lo sviluppatore ha notato che Claude Code ha alterato di nascosto il prompt di sistema utilizzando marcatori Unicode quasi invisibili, ha codificato le classificazioni dei proxy in una frase in inglese semplice e ha nascosto l’elenco dei domini utilizzando XOR e la codifica base64. Il ricercatore non ha definito questa funzionalità dannosa, ma ha trovato l’approccio strano per uno strumento che richiede ai programmatori di fidarsi.
Anthropic non ha risposto direttamente alla domanda se i documenti aziendali rivelassero un meccanismo di tracciamento nascosto. Un rappresentante dell’azienda ha fatto riferimento ai commenti di Shikhipar, che non affrontavano la questione del contratto di licenza per l’utente. L’azienda non ha inoltre specificato quali nuove misure proteggano ora Claude Code dalla rivendita e dalla frammentazione degli account.
A febbraio, Anthropic ha annunciato un investimento nella protezione dalla copia dei modelli. Queste misure includevano classificatori, fingerprinting comportamentale, condivisione dei dati con altri laboratori di intelligenza artificiale, controllo degli accessi e tecniche che rendono difficile addestrare un nuovo modello sulle risposte di Claude. Dopo la fuga di notizie sul codice sorgente di Claude Code, è emerso un altro meccanismo: il flag ANTI_DISTILLATION_CC aggiungeva dati falsi sugli strumenti alle richieste API per corrompere i set di dati di addestramento per i concorrenti.
Anthropic invita l’industria dell’IA, i fornitori di servizi cloud e il governo a collaborare per contrastare la distillazione dei modelli. L’azienda ritiene che la minaccia richieda non solo difese interne, ma anche una risposta più ampia da parte del mercato. Il recente ordine della Casa Bianca di proteggere l’IA americana da avversari stranieri dimostra che anche le autorità statunitensi considerano il problema una questione di sicurezza tecnologica.
È uscito il sesto episodio di Betti-RHC, la serie a fumetti di Red Hot Cyber nata con l'obiettivo di trasformare la cybersecurity awareness in un'esperienza di formazione più semplice, coinvolgente e accessibile. Quello che è nato come un progetto editoriale innovativo è diventato negli anni un vero e proprio corso di cybersecurity awareness a fumetti, adottato da aziende e professionisti per sensibilizzare le persone sui rischi informatici attraverso storie, personaggi ed emozioni. In cinque anni di attività, la serie Betti-RHC ha raggiunto un risultato importante: circa 70.000 copie vendute, a testimonianza dell'interesse crescente delle organizzazioni verso nuovi strumenti per costruire una concreta cultura della sicurezza.
Il sesto episodio porta Betti dentro le nostre case, in un mondo "connesso", dove lampadine, telecamere, assistenti vocali, serrature, sensori ed elettrodomestici intelligenti promettono comfort e sicurezza, ma possono nascondere nuove e insidiose superfici di attacco. Attraverso una nuova avventura, Betti ci accompagna alla scoperta del mondo della domotica e dei dispositivi IoT, mostrando come la poca cautela nell'utilizzo di queste tecnologie possa trasformare oggetti quotidiani in porte d'accesso per chi vuole osservare, controllare o colpire.
Per accompagnare la crescita del progetto abbiamo realizzato il sito ufficiale di Betti-RHC, dove è possibile conoscere meglio la serie, gli episodi e il progetto di cybersecurity awareness sviluppato da Red Hot Cyber. L'obiettivo è continuare a portare la cultura della sicurezza fuori dai tradizionali percorsi formativi standard, utilizzando il linguaggio immediato del fumetto per parlare a dipendenti, professionisti e persone senza competenze tecniche. Per maggiori informazioni su Betti-RHC e sul sesto episodio “Open Mic” è possibile visitare il sito ufficiale: betti.redhotcyber.com.