Ataque unificado quebra os principais esquemas de watermarking estatistico usados para identificar texto gerado por IA
Pesquisadores identificaram uma fraqueza estrutural compartilhada por sete esquemas populares de watermarking de LLMs (incluindo KGW, GumbelSoft, DipMark, ITS e o SynthID do Google), que liga diretamente o score de deteccao do watermark a mudanca de probabilidade que ele introduz em cada token gerado. Explorando esse vinculo, um atacante com apenas acesso de API (sem chaves secretas ou pesos do modelo) consegue reduzir a taxa de deteccao do watermark para no maximo 0,05 em todos os cenarios testados, preservando a fluencia do texto. Os autores provam que o ataque e otimo e que a fraqueza e estrutural: qualquer watermark desenhado para maximizar poder estatistico de deteccao acaba criando a mesma estrutura explorável.
Fonte ↗