tema

#adversarial-ml

6 publicações marcadas com esta tag.

panoramaOS-2026-328 · 2026-09-01

Ensemble de machine learning com DistilBERT detecta SQL injection em tempo real e resiste a ataques adversariais

Um segundo grupo de pesquisadores propõe um ensemble empilhado (regressão logística, XGBoost e SVM sobre embeddings DistilBERT) para detecção de SQL injection, endurecido com exemplos adversariais gerados por FGSM e otimizado via Optuna. O destaque é a velocidade: o ensemble classifica todo o conjunto de teste cerca de 140 vezes mais rápido que um DistilBERT-SVM isolado, mantendo acurácia acima de 99% mesmo sob ataque adversarial.

#artigo-cientifico #sql-injection #waf #ia-defensiva #adversarial-ml #fgsm

Fonte ↗

risco médioOS-2026-335 · 2026-09-01

OASIS otimiza a combinação de ataques adversariais contra classificadores de texto em cenário black-box hard-label

OASIS é um método que otimiza a sequência — não apenas a escolha individual — de ataques adversariais de texto em cenários black-box hard-label, realizando uma busca única para equilibrar taxa de sucesso e tamanho da perturbação, e reaproveitando essa cadeia depois. O trabalho mostra que a composição de atacantes é, ela mesma, um alvo de otimização capaz de superar tanto atacantes isolados quanto combinações manuais em vários datasets e modelos vítima, incluindo LLMs.

#artigo-cientifico #adversarial-ml #ataque-black-box #nlp #seguranca-ofensiva-de-ia

Fonte ↗

risco médioOS-2026-059 · 2026-07-22

Estudo mostra que detectores de phishing baseados em IA perdem mais de 34 pontos de acurácia sob ataque adversarial

Pesquisadores compararam um classificador clássico (TF-IDF com regressão logística) e um DistilBERT ajustado, ambos treinados em um corpus unificado de mais de 82 mil e-mails de phishing vindos de seis bases públicas. Os dois modelos superam 98% de acurácia em dados limpos, mas despencam para cerca de 64% quando expostos a phishing deliberadamente alterado para evadir detecção, uma queda de mais de 34 pontos percentuais em ambos, apesar das arquiteturas serem completamente diferentes.

#artigo-cientifico #adversarial-ml #phishing #deteccao-ia #robustez-adversarial

Fonte ↗

panoramaOS-2026-051 · 2026-07-21

GAN de fronteira de decisão melhora robustez adversarial de IDS baseado em TabTransformer

Pesquisadores combinaram uma Boundary-Seeking GAN (BGAN) com um TabTransformer para detecção de intrusão baseada em fluxo de rede, usando a GAN tanto para gerar amostras sintéticas de classes minoritárias quanto para gerar amostras adversariais de teste. No dataset CICIDS2017, os modelos sem esse reforço sofreram queda de 100% de desempenho sob ataque adversarial, enquanto os modelos aumentados com BGAN mantiveram desempenho estável.

#artigo-cientifico #adversarial-ml #ids #gan #robustez #tabtransformer #cicids2017

Fonte ↗

panoramaOS-2026-052 · 2026-07-21

Taxonomia SMART reclassifica ataques de evasão contra IA pelos sinais que o deployment realmente expõe

Um novo framework, batizado SMART (Signal-based Model Access Risk Taxonomy), propõe abandonar a divisão tradicional de ataques de evasão em white-box/gray-box/black-box e classificá-los pela riqueza real dos sinais que um sistema de IA implantado expõe — decisão final, score de confiança, representação intermediária ou parâmetros completos. Os autores argumentam que a categoria "black-box" tradicional mistura cenários de deployment com capacidades de ataque muito diferentes entre si, o que pode levar a decisões erradas de procurement e arquitetura de segurança.

#artigo-cientifico #adversarial-ml #evasao #taxonomia #mlsecops #model-access

Fonte ↗

panoramaOS-2026-053 · 2026-07-21

Defesa híbrida combina treinamento adversarial e ruído gaussiano para blindar IDS contra FGSM e Carlini & Wagner

Pesquisadores demonstram que um NIDS (sistema de detecção de intrusão de rede) que caía para 26% e 50% de acurácia sob os ataques adversariais FGSM e Carlini & Wagner, respectivamente, recupera 96,57% e 89,20% de acurácia após uma defesa híbrida que combina Adversarial Training com Gaussian Data Augmentation. O estudo varre múltiplos níveis de epsilon e ruído de confiança para validar a robustez da abordagem.

#artigo-cientifico #adversarial-ml #nids #fgsm #carlini-wagner #adversarial-training

Fonte ↗