SIR
La tecnica di watermarking che ancora il segnale al significato del testo con un modello di bias appreso, per resistere a parafrasi e traduzione.
SIR (Semantic Invariant Robust watermark) è una tecnica di in-processing watermarking proposta da Liu et al. (2024b) che ancora il segnale di watermark al significato del testo invece che alle sue parole superficiali, per resistere a parafrasi e ritraduzione.1 Può essere vista come un miglioramento del KGW watermarking in cui il bias sui logit non è più determinato da una partizione casuale del vocabolario, ma da un modello appreso.1
Come funziona
Invece di generare la green list con una funzione hash del token precedente, SIR addestra un modello che assegna a ciascun token un bias continuo, ottimizzato in modo che sequenze di prefisso semanticamente simili ricevano bias simili: dati due prefissi x e y, il modello usa un embedding per misurarne la similarità semantica e viene allenato a minimizzare la differenza tra la similarità semantica dei due prefissi e la similarità dei bias che assegnano ai token successivi. Un bias positivo corrisponde a un token “verde” nel senso di KGW: SIR è un affinamento di KGW in cui la partizione verde/rossa emerge da un modello appreso invece che da un hash casuale, e resta stabile quando il prefisso viene parafrasato o tradotto ma mantiene lo stesso significato.1
Perché è rilevante
Tra i metodi di watermarking più diffusi, SIR è quello con la miglior tenuta empirica quando il testo viene parafrasato o tradotto in un’altra lingua, perché il segnale segue il significato piuttosto che la forma superficiale delle parole. Nello studio sulla consistenza cross-linguale, ottiene risultati nettamente migliori di KGW e dell’unbiased watermark su entrambe le metriche usate e su entrambi i modelli testati.1
Limiti
Nonostante la superiorità relativa, SIR mostra comunque una riduzione sostanziale della forza del watermark dopo la traduzione: la sua consistenza cross-linguale resta lontana dall’ideale. La sua implementazione originale usa un embedding solo inglese, che va sostituito con un embedding multilingue per funzionare in scenari cross-linguali, un adattamento che di per sé non basta a risolvere il problema, come dimostra X-SIR, l’estensione proposta specificamente per colmare quel gap.1
Voci correlate
- KGW watermarking — lo schema di riferimento di cui SIR è un affinamento semantico
- X-SIR — l’estensione di SIR per una migliore consistenza cross-linguale
- SemStamp — l’altro approccio semantico, con meccanismo diverso (embedding di frase e rejection sampling)
- Unbiased watermark — la tecnica che SIR supera nella consistenza cross-linguale
- In-processing watermarking — la categoria di appartenenza
- LLM watermarking — la voce d’insieme
Bibliografia e sitografia
- He, Z., Zhou, B., Hao, H., Liu, Wang, Tu, Zhang, Wang, Can Watermarks Survive Translation?, ACL 2024.