"Target rebinding": técnica engana guardas de segurança de LLM fazendo-os avaliar o texto errado
Pesquisadores demonstram que guardas de segurança (safety guards) usados para filtrar entradas maliciosas antes que um LLM aja sobre elas podem ser enganados ao anexar, após o pedido nocivo, uma segunda tarefa forjada e inofensiva (um "decoy"). O guarda passa a avaliar apenas essa última tarefa aparente e libera o conteúdo original, uma falha que os autores batizam de "target rebinding" e que atinge mais de 93% de sucesso contra cinco guardas testados, incluindo Shieldstral, ShieldGemma, Llama Guard 3 e Qwen3Guard.
Fonte ↗