Pesquisadores apresentam o VulnLens, um framework de detecção de vulnerabilidades em binários C/C++ que separa a análise de comportamento do código, feita por um LLM que não recebe rótulos de vulnerabilidade, da decisão final de classificação, feita por um detector supervisionado treinado com cross-attention. O LLM examina cada função sob sete perspectivas fixas (fluxo de dados, acesso à memória, tempo de vida de objetos, aritmética e tipos, fluxo de controle, estado compartilhado e acesso a recursos externos), e o sistema supera modelos de propósito geral como DeepSeek V4 Pro e Gemini 2.5 Pro tanto no conjunto de teste PrimeVul quanto na transferência para o SecVulEval sem retreinamento.
Pesquisadores desenvolveram um scanner de seis módulos para auditar skills de agentes de IA (pacotes de instruções, scripts e arquivos de referência carregados por agentes LLM), focado em vulnerabilidades não intencionais em skills legítimas e em interações perigosas entre múltiplas skills instaladas juntas, e não apenas em skills deliberadamente maliciosas. Ao analisar 1.587 skills dos 75 repositórios mais populares do GitHub, a ferramenta identificou 59 achados confirmados por analistas humanos em 23 repositórios, com 10 casos de severidade média ou alta divulgados de forma responsável aos mantenedores, e provas de conceito comprovaram exploração real antes da aplicação de mitigações eficazes em quase todos os casos.
Pesquisadores mostram que, em assistentes que combinam um modelo pequeno no dispositivo com um LLM na nuvem via decodificação colaborativa, o transcript de mensagens trocadas durante a geração pode revelar conteúdo privado que nem a pergunta pública nem a resposta final jamais expõem — em um teste com um segredo plantado, rascunhos privados de decodificação especulativa rejeitados pelo modelo da nuvem ainda assim enviaram o segredo para fora do dispositivo. Os autores propõem o ADLER, um protocolo de decodificação em que toda mensagem enviada à nuvem depende apenas da pergunta pública e da resposta final, acompanhado de um 'livro-razão de vazamento' que quantifica quanto cada resposta revela além do que o usuário vê.
Pesquisadores apresentam o WebMaze, uma defesa que combate o uso crescente de scanners de vulnerabilidade web baseados em LLM — que automatizam e tornam mais eficazes ataques contra aplicações — embutindo armadilhas acopladas à funcionalidade real de páginas legítimas e redirecionando o scanner para mundos de isca interativos gerados a partir das próprias views da aplicação. Em testes contra 12 aplicações web e três scanners LLM distintos, páginas de isca representaram em média 93% das páginas visitadas por execução, e os scanners continuaram explorando predominantemente as iscas mesmo quando informados explicitamente sobre o mecanismo de decepção e instruídos a evitá-las.
Em um artigo de opinião no Microsoft Security Blog, a executiva Aarti Borkar argumenta que o CISO moderno precisa equilibrar duas frentes diante da adoção crescente de agentes de IA nas empresas: habilitar a inovação com salvaguardas de identidade e dados, e modernizar a defesa para acompanhar ameaças que também usam IA. A Microsoft cita que o número de agentes ativos no Microsoft 365 cresceu 15 vezes em um ano, e recomenda tratar cada agente como uma identidade própria e governada, nunca herdando credenciais humanas compartilhadas.
O 'Automated Compliance Engine' integra o IDS Suricata a um fluxo LangGraph de cinco estagios com RAG para mapear alertas de intrusao automaticamente aos controles do NIST SP 800-53 e, em seguida, gerar e implantar regras de bloqueio via SSH. Em laboratorio controlado, o sistema detectou 100% de oito ataques simulados sem falsos positivos, mas os proprios autores alertam que a validacao em ambiente real ainda e necessaria.
O CEO do Bank of America, Brian Moynihan, revelou que o banco mobilizou 1.000 contratados adicionais, somados aos 3.000 profissionais de seguranca ja existentes, para corrigir vulnerabilidades no codigo interno e de fornecedores que foram reveladas por modelos de IA de fronteira, incluindo o Mythos da Anthropic. O esforco de remediacao custou ao banco mais de uma centena de milhoes de dolares no terceiro trimestre. O caso ilustra um efeito colateral pouco discutido do avanco de modelos de IA em analise de codigo: eles encontram vulnerabilidades legadas mais rapido do que as equipes de seguranca humanas conseguem corrigi-las.
Pesquisadores propõem um pipeline híbrido que combina embeddings contextuais do BERT com uma rede neural de grafos para classificar consultas SQL maliciosas, atingindo mais de 99% de acurácia e baixa sensibilidade a perturbações adversariais. O modelo e o dataset foram publicados abertamente no GitHub para validação independente. É um exemplo do lado defensivo da segurança de IA: usar deep learning para reforçar firewalls de aplicação web (WAF) contra SQL injection.
Um segundo grupo de pesquisadores propõe um ensemble empilhado (regressão logística, XGBoost e SVM sobre embeddings DistilBERT) para detecção de SQL injection, endurecido com exemplos adversariais gerados por FGSM e otimizado via Optuna. O destaque é a velocidade: o ensemble classifica todo o conjunto de teste cerca de 140 vezes mais rápido que um DistilBERT-SVM isolado, mantendo acurácia acima de 99% mesmo sob ataque adversarial.