#agentes-llm — OlimpoSec

risco médioOS-2026-365 · 2026-09-04

Segurança federada e preservadora de privacidade para sistemas multi-agente de LLMs via aprendizado em grafos

Guardas de segurança que analisam o grafo de comunicação entre agentes de IA para detectar agentes comprometidos normalmente exigem centralizar dados sensíveis de várias organizações, algo inviável na prática. O FGLGuard resolve isso com aprendizado federado sobre grafos: cada operador treina localmente seu próprio detector e compartilha apenas atualizações de modelo, nunca os dados brutos. Em testes com AgentDojo, Agent-SafetyBench e R-Judge, a abordagem federada superou até modelos centralizados dentro de um único domínio, cortando em 43% a taxa de sucesso de ataques reais sem custo de API e sem expor dados entre empresas.

#artigo-cientifico #agentes-llm #multi-agente #federated-learning #defesa

Fonte ↗

risco médioOS-2026-371 · 2026-09-04

UMPeek: ataque infere o "modelo do usuário" oculto guardado por agentes de IA personalizados

Pesquisadores mostraram que agentes de LLM personalizados que armazenam apenas um "modelo do usuário" compactado (em vez do texto original) não são tão privados quanto se supunha. O ataque UMPeek, por sondagem adaptativa guiada por hipóteses, consegue reconstruir informações privadas do usuário observando apenas o comportamento visível do agente, sem acesso a registros brutos ou ao estado interno. O método foi validado tanto em benchmarks quanto em sistemas reais em produção, superando ataques existentes e resistindo a defesas aplicadas no nível da resposta.

#artigo-cientifico #agentes-llm #privacidade #personalizacao #ataque-black-box

Fonte ↗