Anthropic ha annunciato l'introduzione di un watermark nei testi prodotti dai suoi modelli di intelligenza artificiale per adeguarsi alle disposizioni del regolamento europeo sull'IA. La misura risponde in particolare all'attivazione dell'articolo 50 dell'AI Act, entrato in vigore il 2 agosto, che richiede alle aziende del settore di marcare i contenuti generati o modificati da sistemi artificiali in modo che possano essere identificati da altri strumenti.
Come funziona la filigrana testuale
La filigrana non è un metadato esterno né una semplice etichetta nascosta nel file: viene incorporata nel processo stesso con cui il modello sceglie le parole. I grandi modelli linguistici costruiscono una frase token dopo token, assegnando probabilità ai possibili termini; il watermark interviene modificando queste probabilità in favore di alcuni token, creando così una piccola impronta statistica riconoscibile.
In pratica, il marchio resta anche se il testo viene copiato e incollato, perché è legato alla sequenza di token selezionati dal modello, non al formato del file. Per rilevare la firma è però necessario conoscere la chiave e l'algoritmo utilizzati: confrontando le frequenze dei token favoriti con le attese statistiche, un rilevatore può stabilire se un testo è verosimilmente generato dall'IA.
Benefici e limiti pratici
- Pro: il watermark rende meno invisibile il copia-incolla anonimo di testi prodotti dall'IA e aiuta a rispettare i requisiti normativi europei.
- Contro: la firma si basa su preferenze probabilistiche e richiede strumenti specifici per essere individuata; non esiste un vocabolario fisso che indichi quali parole costituiscano la marca.
- Interoperabilità: il rilevamento funziona se si conoscono i parametri usati dal produttore o se esistono standard condivisi tra soggetti diversi.
La tecnica non è nuova: Google, per esempio, ha sviluppato SynthID-Text, che usa un approccio nel quale più token candidati sono messi a confronto con punteggi pseudocasuali legati a una chiave e al contesto; la scelta finale risulta da una sorta di “torneo” tra candidati.
Implicazioni pratiche per editori, aziende e cittadini
Per gli operatori dell'informazione e per le imprese che integrano contenuti IA nei propri prodotti, la novità cambia alcune pratiche consolidate. La possibilità di rilevare che un testo è stato generato artificialmente può influire su normative editoriali, responsabilità legali e trasparenza verso gli utenti. Per i cittadini, il watermark dovrebbe rendere più semplice distinguere contenuti umani da contenuti sintetici, ma solo se saranno disponibili strumenti di verifica affidabili e accessibili.
| Caratteristica | Descrizione |
|---|---|
| Tipo di watermark | Impronta statistica nel processo di scelta dei token |
| Resistenza al copia-incolla | Sì, essendo incorporata nel testo stesso |
| Requisito normativo | Articolo 50 dell'AI Act (attivato il 2 agosto) |
Resta aperta la questione della trasparenza: un sistema efficace richiede standard condivisi per la marcatura e per la sua verifica, oltre a garanzie tecniche per evitare false identificazioni. Inoltre, la dipendenza da chiavi e algoritmi impone valutazioni su sicurezza e abuso — ad esempio la possibilità che attori malintenzionati cerchino di eludere il watermark o di falsificare prove.
La decisione di Anthropic segna comunque un passo concreto verso l'attuazione delle norme europee, e potrebbe spingere altri fornitori di modelli a seguire la stessa strada. Nei prossimi mesi sarà importante monitorare come queste soluzioni saranno adottate nel mercato e quale livello di interoperabilità e trasparenza verrà sviluppato tra produttori, regolatori e operatori dell'informazione.
