Red Hot Cyber
Sicurezza Informatica, Notizie su Cybercrime, Analisi Vulnerabilità e Intelligenza Artificiale
Anthropic introduce un watermark invisibile nei testi generati da Claude: una firma statistica che sopravvive anche al copia-incolla e apre una nuova era nella tracciabilità dei contenuti IA. Non è un detector infallibile, ma un passo verso la trasparenza richiesta dall'AI Act europeo.
Per anni la domanda è stata:“Questo testo è stato scritto dall’intelligenza artificiale?”
Da oggi, almeno per i contenuti prodotti dai modelli Claude più recenti, la domanda potrebbe diventare molto più concreta:“Possiamo verificarlo tecnicamente?”
Anthropic ha annunciato l’introduzione di un watermark invisibile e leggibile dalle macchine nei testi generati da Claude. Non è una scritta nascosta che possiamo vedere selezionando il testo, né un semplice metadato allegato al documento. Il segnale viene integrato direttamente nel testo prodotto dal modello ed è progettato per sopravvivere al normale copia-incolla e ad alcune modifiche.
La novità arriva proprio mentre entrano in applicazione nell’Unione europea le nuove disposizioni sulla trasparenza dell’AI previste dall’AI Act.
Ma attenzione:watermark non significa “macchina della verità per l’IA”. E questa distinzione è fondamentale.
Quando sentiamo parlare di watermark pensiamo normalmente a una filigrana: il logo semitrasparente sopra una fotografia o una scritta inserita in un documento.
Nel caso dei testi generati dall’IA il meccanismo è molto più sofisticato.
Anthropic descrive il sistema come un“imperceptible watermark”, cioè un watermark impercettibile, incorporato direttamente nella generazione testuale. Il lettore non vede nulla di particolare e il testo continua ad apparire normalmente.
Il concetto, però, non è fantascientifico.
Da anni la ricerca studia sistemi nei quali il modello modifica leggermente la probabilità con cui seleziona determinate parole o token. Singolarmente queste scelte sono praticamente indistinguibili da quelle di un testo normale; osservando però un numero sufficientemente grande di token, un rilevatore che conosce il meccanismo può cercare una particolare distribuzione statistica.
In altre parole, non necessariamente esiste una “parola segreta” nascosta nel testo.
È più simile a una firma statistica distribuita lungo la generazione.
La ricerca scientifica sul watermarking dei modelli linguistici ha già dimostrato che è possibile incorporare segnali di questo tipo e successivamente verificarli con test statistici.
È proprio questo uno degli aspetti più interessanti della tecnologia.
Secondo le informazioni disponibili sul nuovo sistema Claude, il watermark viene applicato a livello del modello e non semplicemente aggiunto come metadato al momento dell’esportazione. Per questo motivo dovrebbe accompagnare il testo anche quando viene copiato e incollato in un’altra applicazione e può resistere ad alcune modifiche.
Questo è molto diverso dal watermark delle immagini basato esclusivamente sui metadati.
Per esempio, se un’immagine contiene informazioni C2PA, queste possono essere perse quando il file viene elaborato o convertito. Nel caso del testo di Claude, invece, il segnale è incorporato nella generazione stessa.
Ma qui arriva la prima importante precisazione.
“Resiste al copia-incolla” non significa “resiste a qualsiasi trasformazione”.
Una riscrittura profonda, una parafrasi significativa, una traduzione o una modifica sostanziale del testo possono alterare il segnale al punto da renderlo non rilevabile. Anche la ricerca sul watermarking testuale mostra che la robustezza dipende dal tipo e dalla quantità di trasformazioni applicate.
Perciò sarebbe sbagliato interpretare la novità come: “Se Claude scrive una frase, nessuno potrà mai renderla non rilevabile.”
La realtà tecnica è decisamente più complessa.
Questo è probabilmente il punto più importante dell’intera vicenda.
Un AI detector tradizionale cerca di stabilire se un testo sembra essere stato prodotto da un modello. Un watermark detector, invece, cerca uno specifico segnale inserito intenzionalmente dal modello.
Sono due cose completamente diverse.
Immaginiamo tre testi:
Un detector generico potrebbe assegnare probabilità diverse ai tre testi sulla base dello stile linguistico.
Un rilevatore del watermark di Claude, invece, cerca una caratteristica specifica associata alla generazione di Claude.
Questo rende il secondo approccio potenzialmente molto più interessante per la provenienza del contenuto.
Ma non significa automaticamente che possa dimostrare chi abbia materialmente scritto ogni singola frase.
Se una persona utilizza Claude per produrre una prima bozza e poi modifica, integra, verifica e riscrive il contenuto, la questione dell’autorialità diventa molto più complessa.
Ed è proprio qui che il dibattito sull’AI rischia di diventare troppo semplicistico.
La tempistica non è casuale.
Dal 2 agosto 2026 si applicano le disposizioni di trasparenza dell’AI Act relative ai contenuti generati o manipolati dall’AI. L’articolo 50 prevede, tra le altre cose, che i provider di sistemi di IA generativa adottino soluzioni tecniche affinché i contenuti sintetici siano marcati in formato leggibile dalle macchine e rilevabili come artificialmente generati, per quanto tecnicamente fattibile.
C’è però una distinzione importante rispetto a quanto si legge spesso sui social.
Non significa che dal 2 agosto ogni email, ogni post LinkedIn o ogni documento scritto con l’aiuto dell’IA debba necessariamente avere una gigantesca etichetta “GENERATO DA AI”.
L’articolo 50 contiene obblighi differenti a seconda del soggetto, del tipo di contenuto e del contesto.
Per esempio, per il testo generato o manipolato dall’AI destinato a informare il pubblico su questioni di interesse pubblico, esiste uno specifico obbligo di disclosure, con un’importante eccezione quando il contenuto è stato sottoposto a revisione umana o controllo editoriale e una persona fisica o giuridica assume la responsabilità editoriale.
È quindi molto più corretto parlare di trasparenza e provenienza del contenuto che di una generica “caccia all’utente che usa Claude”.
Un dettaglio che potrebbe passare inosservato è che il sistema di watermarking di Claude non viene presentato semplicemente come una funzione attivata per gli utenti europei.
Le informazioni pubblicate sul nuovo sistema indicano un’applicazione a livello del modello, quindi anche attraverso differenti superfici e integrazioni, e non esclusivamente all’interno dell’Unione europea.
Questo ha senso dal punto di vista tecnico.
Creare una versione del modello che produce testi con watermark in Europa e una completamente diversa nel resto del mondo renderebbe più difficile costruire un sistema coerente di verifica della provenienza.
Ed è qui che si intravede un possibile cambiamento di paradigma.
Oggi molte piattaforme cercano di indovinare se un contenuto è stato prodotto dall’AI.
Domani potremmo avere sempre più sistemi nei quali i modelli stessi forniscono una sorta di prova tecnica di provenienza. Non è una differenza da poco.
Non ancora al punto da considerarlo una prova. Ogni sistema di watermarking deve trovare un equilibrio tra almeno tre caratteristiche:
È un problema tecnico tutt’altro che banale.
La stessa ricerca sul watermarking degli LLM studia da tempo attacchi basati su sostituzione di parole, cancellazioni, parafrasi e altre trasformazioni.
Inoltre, un rilevatore deve evitare anche il problema opposto: un falso positivo.
Se un sistema dicesse “questo testo è sicuramente di Claude” semplicemente perché rileva una particolare caratteristica statistica, servirebbe una validazione molto rigorosa prima di utilizzare quella conclusione per prendere decisioni importanti.
Per esempio, sarebbe estremamente problematico utilizzare un detector come unica prova per accusare uno studente di aver copiato, un giornalista di aver falsificato un articolo o un dipendente di aver prodotto artificialmente un documento.
Il watermark può diventare uno strumento di provenance. Non necessariamente una macchina della verità.
Qui la questione diventa molto più interessante.
Email, report, presentazioni, analisi, documentazione tecnica, codice, brainstorming: l’utilizzo dell’AI nel lavoro è ormai molto più ampio della semplice produzione di “testi da copiare e incollare”.
La vera domanda non dovrebbe essere soltanto:
“Hai usato l’AI?”
Dovremmo iniziare a distinguere tra:
AI come assistente,
AI come co-autore,
AI come generatore quasi autonomo,
AI come strumento di revisione.
Sono scenari completamente diversi.
Un professionista che utilizza Claude per trasformare appunti disordinati in una relazione e poi verifica ogni informazione, corregge il contenuto e assume la responsabilità del documento non sta facendo necessariamente la stessa cosa di chi pubblica integralmente un testo generato dall’AI senza verificarlo.
Il watermark può dirci qualcosa sulla provenienza tecnica di un contenuto.
Non può, da solo, raccontarci tutta la storia della sua produzione.
La notizia di Anthropic è importante, ma forse non per il motivo più sensazionalistico raccontato sui social. Il punto non è che “Claude scoprirà chi usa l’AI”.
Il punto è che l’industria sta iniziando a spostarsi dalla semplice generazione di contenuti verso la tracciabilità della loro provenienza.
E questo potrebbe diventare fondamentale in un mondo nel quale distinguere contenuti umani, contenuti sintetici e contenuti ibridi sarà sempre più difficile.
Il watermark di Claude è quindi un pezzo di un problema molto più grande: come possiamo mantenere fiducia e trasparenza quando una macchina può produrre contenuti indistinguibili, almeno a prima vista, da quelli umani?
La risposta probabilmente non sarà un singolo detector.
Sarà una combinazione di watermark, metadati, standard di provenienza, disclosure, controllo umano e soprattutto alfabetizzazione sull’intelligenza artificiale.
E forse la domanda più interessante non sarà più:
“È scritto dall’AI?”
Ma:
“Quanto dell’AI è stato utilizzato, come è stato utilizzato e chi si assume la responsabilità del risultato finale?”
È una domanda molto più difficile.
Ma anche molto più utile.
Betti RHC, la prima graphic novel al mondo dedicata alla cybersecurity awareness, ha finalmente il suo sito ufficiale. Uno spazio tutto suo dove scoprire il progetto, sfogliare le copertine degli episodi e immergersi nel mondo di Betti: la giovane laureanda in informatica che, dopo la morte misteriosa del padre, si trasforma nell'hacker più potente del mondo. Una storia avvincente che, episodio dopo episodio, affronta una minaccia digitale diversa — dal phishing al ransomware, fino al cyberbullismo — e insegna a riconoscerla e a difendersi, senza che sembri mai una lezione.
Sul sito trovate tutto ciò che rende Betti un progetto diverso dal solito: la sua filosofia, le anteprime delle tavole e il racconto di come nasce ogni volume. Perché dietro Betti RHC c'è solo lavoro umano: ogni tavola è disegnata interamente a mano dagli artisti del Gruppo Arte di Red Hot Cyber, senza alcun uso di intelligenza artificiale. E a garantire che ogni storia sia realistica e tecnicamente corretta c'è la supervisione degli hacker etici del gruppo HackerHood, che mantengono il racconto fedele al mondo reale della sicurezza informatica.
C'è spazio anche per le aziende, che possono usare Betti come strumento di awareness diverso dai soliti corsi: acquistare i volumi, personalizzarli con il proprio brand o sponsorizzare nuovi episodi. E come primo regalo, l'episodio "Byte the Silence", dedicato al cyberbullismo, è scaricabile gratuitamente per uso personale.
Perché la miglior difesa, in fondo, è una bella storia. 👉 Scopri tutto su https://betti.redhotcyber.com/