AdvGuard detecta tentativas de extrair o system prompt mesmo quando o ataque é disfarçado em várias consultas separadas
O AdvGuard ataca o vazamento de system prompt por consultas adaptativas e multi-turno, modelando relações entre perguntas sucessivas como um grafo de interação semântica e classificando padrões de extração coordenada com uma rede convolucional de grafos. Testado contra os ataques adaptativos PLeak e LeakAgent, o framework reduz o vazamento por correspondência exata para no máximo 1% nos modelos avaliados, mantendo recall de 100% em cenários multi-turno.
Fonte ↗