#envenenamento — OlimpoSec

risco médioOS-2026-716 · 2026-10-19

Ataque R2ECAP envenena cache KV reaproveitado de raciocinio de LLM apenas por interacao normal de chat

Sistemas modernos de LLM reaproveitam o cache de chave-valor (KV) de tracos de raciocinio para acelerar inferencia, de forma similar a RAG. O R2ECAP explora essa otimizacao plantando tracos de raciocinio envenenados puramente via interacao com a interface de chat, atingindo ate 79% de sucesso em tres LLMs de peso aberto e escapando de deteccao por filtros de injecao de prompt em 99% dos casos.

#artigo-cientifico #llm #envenenamento #kv-cache #rag #ataque-caixa-preta

Fonte ↗

risco médioOS-2026-548 · 2026-09-29

BMA: ataque demonstra como envenenar memória persistente de agentes LLM sem escrever na memória nem alterar a tarefa

Pesquisadores apresentam o Backchain Memory Attack (BMA), que manipula evidências de baixa confiança consumidas por um agente LLM de forma que, quando consolidadas em memória persistente, acabam sendo recuperadas depois em uma tarefa completamente limpa e usadas para disparar uma ação protegida não autorizada. O ataque alcança 18,8% de taxa de sucesso certificada por caminho (contra 13,4% da melhor linha de base), e controles de proveniência vinculada reduzem esse número para 2% preservando 92,1% das ações legítimas.

#artigo-cientifico #agentes-ia #memoria-persistente #envenenamento #proveniencia #seguranca-defensiva

Fonte ↗