CLAUDE TI MARCHIA: come la AI firma i testi che scrive senza dirtelo... #1581

Anthropic ha introdotto un watermark “invisibile” nei testi generati da Claude: una filigrana statistica che sopravvive al copia-incolla e che, con una chiave segreta, permette di stimare se un brano provenga dal modello. L’idea (attribuita allo schema proposto da Scott Aaronson) agisce durante la scelta delle parole: tra alternative quasi equivalenti, il modello viene spinto a selezioni coerenti con una funzione crittografica basata sul contesto recente. A parole sembra la soluzione al problema della trasparenza, anche in risposta alle richieste dell’AI Act UE e al cosiddetto Bruxelles Effect. Il punto però è che la filigrana è forte soprattutto nei “casi puri” (testo generato da zero e pubblicato tale e quale) e diventa debole proprio nei casi reali: correzioni leggere di stile e grammatica, documenti ibridi a strati (parti umane + parti IA), o semplici trasformazioni che spezzano la finestra di contesto. Inoltre nei testi a bassa entropia—definizioni tecniche, formule, diritto, e spesso anche codice—c’è meno libertà lessicale e il watermark è strutturalmente più fragile. Resta il nodo politico: chi controlla la chiave e la soglia di rilevazione controlla anche l’attribuzione. Se…