#memoria — OlimpoSec

risco altoOS-2026-868 · 2026-11-05

KVGuard encontra 8 falhas de memória inéditas no cache KV de sistemas de serving de LLM

Pesquisadores apresentam o KVGuard, o primeiro verificador sistemático de segurança de memória para o cache KV em sistemas de serving de LLMs como vLLM e SGLang, cobrindo classes de bugs — double-free, use-after-free, acesso fora dos limites, leitura não inicializada e violação de permissão — que hoje corrompem silenciosamente respostas ou quebram o isolamento entre requisições sem nunca travar o sistema. A ferramenta reproduziu os 29 bugs históricos conhecidos dessas duas plataformas e encontrou 8 falhas de segurança de memória até então desconhecidas, com overhead de desempenho muito baixo.

#artigo-cientifico #llm-serving #memoria #vllm #sglang #vulnerabilidade

Fonte ↗

panoramaOS-2026-718 · 2026-10-19

SAFE-Mem propoe governanca granular de memoria para impedir que agentes de LLM tratem dados externos nao confiaveis como autoridade

O framework anota cada afirmacao armazenada na memoria de um agente com rotulos de tipo, autoridade e escopo, e usa esses rotulos para decidir se a memoria pode influenciar uma resposta -- em vez de filtrar conteudo de forma generica. Em quatro modelos base e dois benchmarks, o SAFE-Mem reduz o sucesso de ataques em pelo menos 77% em relacao a melhor defesa comparavel, mantendo ate 15% mais acuracia de resposta.

#artigo-cientifico #agentes-de-ia #memoria #governanca #defesa #llm

Fonte ↗