tema

#robustez

3 publicações marcadas com esta tag.

panoramaOS-2026-367 · 2026-09-04

Aprendizado federado com privacidade diferencial e agregação robusta a Bizantinos: um framework para treinamento seguro de modelos em bancos e hospitais

O artigo propõe o DP-BR-FedAvg, um framework de aprendizado federado que combina privacidade diferencial via mecanismo Gaussiano com agregação robusta a clientes Bizantinos por média aparada por coordenada. Em simulações com 20 clientes (25% maliciosos) em uma tarefa de classificação inspirada em detecção de fraude e risco clínico, o FedAvg tradicional colapsa na classe minoritária, enquanto a proposta recupera parte relevante do sinal, ainda que com custo de acurácia em relação a uma versão apenas robusta, sem privacidade. Os resultados mostram que privacidade e robustez não se somam de forma simples, mas interagem, o que tem implicações diretas para o design de sistemas de ML federado em setores regulados.

#artigo-cientifico #federated-learning #byzantine #privacidade-diferencial #robustez

Fonte ↗

risco médioOS-2026-283 · 2026-08-24

LLMs mostram raciocínio de segurança 'frágil': reformular o mesmo problema muda o ranking de defesas escolhidas

Testando LLMs na seleção de controles de segurança sobre grafos de ataque reais (ransomware, comprometimento de cadeia de suprimento, Kubernetes, ICS/OT), pesquisadores encontraram que os modelos produzem estratégias próximas de um baseline de otimização matemática quando a estrutura do ataque é explícita, mas a qualidade despenca com a complexidade do grafo e é muito sensível a mudanças de formulação do prompt — inclusive apenas rotular uma estratégia ruim como 'ótima' melhora drasticamente a avaliação que o próprio LLM dá a ela.

#artigo-cientifico #llm-security #decisao-de-seguranca #avaliacao #robustez

Fonte ↗

panoramaOS-2026-051 · 2026-07-21

GAN de fronteira de decisão melhora robustez adversarial de IDS baseado em TabTransformer

Pesquisadores combinaram uma Boundary-Seeking GAN (BGAN) com um TabTransformer para detecção de intrusão baseada em fluxo de rede, usando a GAN tanto para gerar amostras sintéticas de classes minoritárias quanto para gerar amostras adversariais de teste. No dataset CICIDS2017, os modelos sem esse reforço sofreram queda de 100% de desempenho sob ataque adversarial, enquanto os modelos aumentados com BGAN mantiveram desempenho estável.

#artigo-cientifico #adversarial-ml #ids #gan #robustez #tabtransformer #cicids2017

Fonte ↗