Modelo de decisão de 4B parâmetros filtra HTML recuperado e corta sucesso de prompt injection de 28% para menos de 6%
Pesquisadores testam um «gate» de recuperação baseado num modelo de decisão compacto (Kev-4B) que lê o HTML bruto de cada página recuperada por um sistema de RAG e decide, sem gerar texto, se ela deve ser admitida. O gate reduziu o sucesso de prompt injection de 27,9% (sem defesa) para 5,7%, e manteve exposição a páginas falsas abaixo de 1% num cenário de poluição onde dois terços do conteúdo recuperado era fabricado, com apenas 76ms de latência por passagem.
Fonte ↗