Um estudo acadêmico treinou um classificador quântico variacional para detectar DDoS e mostrou que ataques adversariais do tipo FGSM, desenvolvidos inteiramente em simulação, continuam funcionando quando aplicados a um processador quântico real da IBM. Os autores também descobrem que o ruído do hardware, em vez de proteger o modelo, apenas reduz sua confiança e facilita o ataque — invalidando a ideia de que ruído quântico funcionaria como defesa natural.
Gadi Evron mapeou 13 pontos de engenharia em que harnesses de descoberta de vulnerabilidades baseados em LLM podem descartar silenciosamente código ou achados reais, independentemente da capacidade do modelo subjacente. Ao examinar doze harnesses de código aberto, incluindo dois mantidos pelo próprio autor, ele mostrou que seis deles descartaram um mesmo arquivo de teste antes que o modelo chegasse a analisá-lo, cinco sem qualquer aviso de que isso havia ocorrido.
Pesquisadores propõem o Phantom State Attack (PSA), uma técnica de evasão contra sistemas de detecção de intrusão (IDS) baseados em machine learning para ambientes industriais (IIoT) que não modifica pacotes, não consulta o classificador e não precisa aprender um modelo do tráfego legítimo — ela apenas desloca minimamente o tempo de chegada dos pacotes para atravessar fronteiras de janelas de agregação. O ataque degrada a detecção em fluxos com volume suficiente de pacotes, mas seu efeito é condicional, deixando outros fluxos quase intactos.
O trabalho avalia ataques de evasão do tipo caixa-preta contra uma defesa de treinamento adversarial baseada em custo-utilidade, aplicada a aprendizes online (árvores e florestas adaptativas) usados para detecção de anomalias e intrusão em redes IoT. As versões com treinamento adversarial mantiveram acurácia adversarial de até 0,985 com queda de apenas 0,8% em relação à acurácia em dados limpos, no orçamento de custo mais alto testado.
O estudo avalia oito ataques adversariais de evasao contra quinze modelos de deteccao de intrusao de rede (NIDS) baseados em machine learning, usando o dataset NF-UQ-NIDS com vinte categorias de ataques em trafego tradicional e IoT. Os autores propoem o AR-NIDS, um framework de dois estagios -- um ensemble treinado adversarialmente que distingue trafego normal, de ataque e adversarial, seguido por um classificador que identifica o tipo de ataque -- que reduziu a taxa media de sucesso dos ataques evasivos de 0,41 para 0,03, alcancando 0,98 no indice de robustez proposto pelos proprios autores.
A análise do GNNSCVulDetector, um detector de vulnerabilidades em smart contracts baseado em redes neurais de grafo, encontra quatro falhas na etapa em que o código é convertido em grafo antes do treinamento, incluindo um ataque de evasão em que contratos estruturalmente diferentes geram grafos idênticos byte a byte. Os autores confirmam experimentalmente um caso em que um contrato totalmente explorável por reentrância é classificado como seguro porque a aresta que representa a chamada externa maliciosa nunca é construída.
Um novo framework, batizado SMART (Signal-based Model Access Risk Taxonomy), propõe abandonar a divisão tradicional de ataques de evasão em white-box/gray-box/black-box e classificá-los pela riqueza real dos sinais que um sistema de IA implantado expõe — decisão final, score de confiança, representação intermediária ou parâmetros completos. Os autores argumentam que a categoria "black-box" tradicional mistura cenários de deployment com capacidades de ataque muito diferentes entre si, o que pode levar a decisões erradas de procurement e arquitetura de segurança.