In-context watermarking
Il paradigma che incorpora istruzioni di watermarking nascoste nel documento di input di un LLM, con il controllo del segnale in mano a una terza parte fidata.
In-context watermarking (ICW) è un paradigma di LLM watermarking proposto da Liu, Zhao, Song, Wornell e Bu in un position paper presentato a Findings of ACL 2026.1 Invece di modificare il processo di decoding del modello, come l’in-processing watermarking, o di riscrivere l’output dopo la generazione, come il post-processing watermarking, ICW incorpora istruzioni di watermarking impercettibili direttamente nel documento di input che viene dato all’LLM.1
Come funziona
Un esempio concreto, detto “Initials ICW”: il documento contiene un’istruzione nascosta che chiede di massimizzare l’uso di parole che iniziano con lettere di una lista prestabilita. Un utente che incolla il documento in un LLM per farsi generare una recensione, un riassunto o un compito riceve un output che, seguendo l’istruzione, contiene sistematicamente più parole inizianti con quelle lettere di quante ce ne sarebbero per caso: un pattern rilevabile con un test statistico sulla frequenza delle lettere iniziali, lo stesso principio del test z-score della tecnica fondativa a liste verdi e rosse, applicato alle lettere iniziali invece che ai token.1 L’istruzione può essere resa invisibile all’occhio umano nel documento, per esempio con testo bianco su sfondo bianco in un PDF, mentre resta leggibile per un LLM che riceve il testo estratto.1
Il modello di incentivi
ICW è pensato per scenari con tre parti distinte: una parte fidata (un organizzatore di conferenza, un insegnante) che vuole rilevare l’uso scorretto dell’LLM da parte di terzi; un fornitore di tecnologia, l’LLM stesso, che deve solo eseguire fedelmente le istruzioni ricevute; e un utente finale il cui comportamento onesto non viene penalizzato.1 Questa struttura risolve le tre barriere che il paper identifica come cause della scarsa adozione del watermarking tradizionale: non c’è rischio competitivo per il provider dell’LLM, perché non è lui a incorporare il segnale né a subirne le conseguenze; la governance del rilevatore è semplice, perché solo la parte fidata detiene la chiave; l’attribuzione è univoca, perché il segnale rilevato collega il testo generato a un preciso documento e quindi a un preciso utente sospetto.1
L’analogia con la costellazione EURion
Gli autori paragonano ICW alla costellazione EURion, il pattern che le banche centrali incorporano nelle banconote e che stampanti e fotocopiatrici riconoscono per rifiutarsi di riprodurre denaro contraffatto: un segnale impercettibile agli utenti comuni, ma a cui la tecnologia risponde in modo predefinito quando lo riconosce.1
Limiti e sfide aperte
L’efficacia di ICW dipende dalla capacità del modello di seguire istruzioni complesse in-context: modelli meno capaci seguono l’istruzione di watermarking in modo meno affidabile, il che significa che la tecnica migliora man mano che i modelli diventano più capaci.1 Restano aperte la robustezza contro attacchi sofisticati e le implicazioni etiche e di trasparenza dell’incorporare istruzioni nascoste nei documenti.1
Voci correlate
- LLM watermarking — la famiglia di tecniche cui questo paradigma aggiunge una terza via
- In-processing watermarking — la categoria tradizionale in cui il segnale è incorporato durante la generazione
- Post-processing watermarking — la categoria tradizionale in cui il segnale è aggiunto all’output
- Portale: LLM watermarking
Bibliografia e sitografia
- Liu, J., Zhao, X., Song, Y., Wornell, G., Bu, Z., Position: LLM Watermarking Should Align Stakeholders’ Incentives for Practical Adoption, Findings of ACL 2026.