olimposec.com
tema

#sok

3 publicações marcadas com esta tag.

panoramaOS-2026-348 · 2026-09-02
0

SoK mapeia como falhas de segurança se propagam em sistemas multiagente de LLM mesmo quando cada agente é seguro

Um trabalho de sistematização de conhecimento (SoK) revisa 197 estudos sobre segurança de sistemas multiagente de LLM (MAS) e propõe um framework que organiza ataques por posição do adversário, interface de interação e risco sistêmico resultante, mostrando que falhas emergem do fluxo de informação, estado, decisões e autoridade entre agentes — não apenas de falhas locais em um agente isolado.

Fonte ↗
risco médioOS-2026-216 · 2026-08-12
0

SoK mapeia superfície de ataque completa da IA agêntica: de RAG envenenado a manipulação entre agentes

Uma sistematização de conhecimento (SoK) mapeia fronteiras de confiança e riscos de segurança em sistemas de IA agêntica que combinam LLMs, ferramentas, RAG e loops autônomos multiagente, sintetizando mais de 20 estudos revisados por pares e relatórios de indústria de 2023-2025 numa taxonomia que cobre injeção de prompt indireta, envenenamento de bases de conhecimento, exploração de plugins/ferramentas e ameaças emergentes entre agentes. Os autores também propõem métricas de postura de segurança e um checklist de segurança em fases para orientar deploys de IA agêntica.

Fonte ↗
panoramaOS-2026-151 · 2026-08-06
0

SoK propõe framework de cinco dimensões para mapear como IA de fronteira altera a dinâmica de risco em infraestrutura crítica

Um Systematization of Knowledge (SoK) argumenta que a literatura atual de segurança de IA, organizada por tipo de ataque ou estágio do ciclo de vida, não captura como o risco realmente emerge e se propaga quando modelos de fronteira são integrados a infraestrutura crítica. Os autores propõem um framework de cinco dimensões — emergência de capacidade, vias de infiltração, propagação entre sistemas, degradação de controle e sobrecarga da capacidade de resposta institucional — para deslocar o foco de robustez de modelo isolado para garantias em nível de sistema.

Fonte ↗