Anthropic ha introdotto un sistema di marcatura invisibile per i contenuti generati dai propri modelli. Si tratta di un watermark incorporato direttamente nella sequenza delle parole.
Il sistema modifica impercettibilmente le probabilità con cui Claude sceglie determinate parole durante la generazione. Attraverso una chiave segreta, il modello introduce così un particolare schema statistico che può essere successivamente riconosciuto da strumenti di rilevamento.
La marcatura dipende dal tipo di modello e, secondo Anthropic, persiste anche quando viene copiato e incollato altrove. Può sopravvivere a modifiche, mentre tende a perdersi con traduzioni complete, riscritture profonde o interventi pesanti sul testo.
Non solo testo
Anthropic utilizza anche un secondo sistema per i file generati da Claude.
Per formati come PNG, JPG e SVG, vengono utilizzati metadati firmati secondo lo standard C2PA, pensato per documentare la provenienza e la storia di un contenuto digitale.
La marcatura riguarda i modelli Claude lanciati dal 2 agosto 2026 e viene applicata, secondo Anthropic, a livello globale e attraverso i diversi prodotti e servizi dell’azienda, compresa l’API.
Perché Anthropic lo sta facendo?
La marcatura fa parte degli impegni assunti da Anthropic nell’ambito della trasparenza dei contenuti generati dall’AI previsto dall’AI Act europeo.
Quando un contenuto è stato prodotto o elaborato dall’intelligenza artificiale, dovrebbe essere possibile avere un segnale tecnico che lo permetta di riconoscere.
Per anni abbiamo discusso della difficoltà di distinguere un testo umano da uno generato dall’AI. Ora i produttori dei modelli stanno iniziando a introdurre direttamente nei loro sistemi una sorta di impronta digitale.
Una firma non significa una prova
Anthropic stessa mette in guardia dai limiti del sistema.
La presenza del watermark indica che un contenuto potrebbe essere stato elaborato da Claude, ma non dimostra necessariamente che Claude ne sia l’autore originale.
Un essere umano potrebbe aver scritto un testo e aver utilizzato Claude soltanto per correggerlo, tradurlo o riassumerlo. Il risultato potrebbe quindi portare la marcatura pur partendo da un contenuto completamente umano.
Allo stesso modo, l’assenza del watermark non dimostra che un contenuto sia stato scritto da un essere umano. Una traduzione, una riscrittura radicale, un testo troppo breve o la rimozione dei metadati possono eliminare il segnale.
Conclusione
La risposta alla diffusione dell’AI generativa sta andando verso una sorta di infrastruttura invisibile.
In futuro potremmo avere sistemi capaci di verificare se un contenuto porta con sé una traccia lasciata dal modello che lo ha generato.
Ma introduce anche una domanda meno tecnica: chi controlla queste firme?
Anthropic decide come viene generato il segnale, possiede la chiave necessaria per identificarlo e sta sviluppando anche gli strumenti per rilevarlo.
In poche parole, la natura di questi contenuti è invisibile all’utente, ma leggibile dalle macchine.
Per ora è una misura di trasparenza. Ma ancora una volta la tecnologia ci manda lo stesso messaggio: senza le macchine, sei tu quello che non sa più niente.
