olimposec.com
TLP:CLEAR · curadoria científica

Publicações científicas

Artigos revisados por pares sobre segurança de sistemas de IA em venues de respeito (USENIX Security, IEEE S&P, arXiv), com resumo em português. Cada item aponta para a versão de acesso aberto (arXiv/ePrint) e, quando existe, o DOI oficial — nunca para cópias não autorizadas.

7 artigos
2026arXiv (preprint)

Prompt Injection Attacks on Agentic Coding Assistants: A Systematic Analysis of Vulnerabilities in Skills, Tools, and Protocol Ecosystems

Narek Maloyan e Dmitry Namiot

Levantamento sistemático de ataques de injeção de prompt contra assistentes de codificação com IA (Claude Code, Cursor e similares). A partir de 78 estudos, propõe uma taxonomia por vetor de entrega, modalidade e comportamento de propagação, e reporta que ataques adaptativos superam 85% de sucesso mesmo contra as defesas mais avançadas — conectando-se diretamente ao incidente de repositórios comprometidos noticiado aqui.

#prompt-injection#ferramentas-de-codificacao-ia#agentic-ai
2026arXiv (preprint)

ARGUS: Defending LLM Agents Against Context-Aware Prompt Injection

Shihao Weng, Yang Feng, Jinrui Zhang, Xiaofei Xie, Jiongchi Yu e Jia Liu

Defesa para agentes de LLM contra injeções sensíveis ao contexto — aquelas que se camuflam no fluxo legítimo da tarefa do agente. Busca preservar a autonomia do agente sem ceder o controle a instruções escondidas no conteúdo processado.

#prompt-injection#agentic-ai#defesa
2025arXiv (preprint)

SecInfer: Preventing Prompt Injection via Inference-time Scaling

Yupei Liu, Yanting Wang, Yuqi Jia, Jinyuan Jia e Neil Zhenqiang Gong

Defesa que aproveita escalonamento em tempo de inferência: gera várias respostas por caminhos de raciocínio e prompts de sistema distintos e escolhe a que melhor cumpre a tarefa pretendida, mitigando injeções existentes e adaptativas sem re-treinar o modelo.

#prompt-injection#defesa#inference-time
2025USENIX Security 2025

PoisonedRAG: Knowledge Corruption Attacks to Retrieval-Augmented Generation of Large Language Models

Wei Zou, Runpeng Geng, Binghui Wang e Jinyuan Jia

Primeiro estudo sistemático de envenenamento de conhecimento em RAG: injetando poucos textos maliciosos na base de recuperação, o atacante induz o LLM a produzir respostas escolhidas por ele. Mostra que basta corromper a fonte de conhecimento, sem tocar no modelo.

#rag#envenenamento-de-dados#supply-chain
2025IEEE S&P 2025Distinguished Paper — IEEE S&P 2025

DataSentinel: A Game-Theoretic Detection of Prompt Injection Attacks

Yupei Liu, Yuqi Jia, Jinyuan Jia, Dawn Song e Neil Zhenqiang Gong

Formula a detecção de injeção de prompt como um jogo: um LLM "canário" é ajustado para falhar de modo detectável quando há instrução injetada no conteúdo, denunciando o ataque. Recebeu o prêmio de artigo destaque (Distinguished Paper) no IEEE S&P 2025.

#prompt-injection#deteccao#teoria-dos-jogos