tema

#aprendizado-federado

7 publicações marcadas com esta tag.

risco médioOS-2026-319 · 2026-08-31

FISGuard reduz a quase zero a eficácia de ataque de inferência de membership em LLMs com fine-tuning federado

O ataque ProjRes (publicado no S&P 2026) consegue distinguir se um dado específico participou do treinamento de um LLM em aprendizado federado apenas observando o resíduo de projeção entre a representação candidata e o subespaço formado pelos gradientes visíveis ao servidor — sem acessar as saídas do modelo. O FISGuard neutraliza esse ataque fixando um subespaço de representação de baixa dimensão construído a partir de dados públicos, derrubando a AUC do ProjRes para próximo de 0,5 (equivalente a chute aleatório) com pouca perda de desempenho.

#artigo-cientifico #membership-inference #llm #aprendizado-federado #privacidade

Fonte ↗

risco médioOS-2026-297 · 2026-08-26

STAIN-FL: backdoors furtivos em aprendizado federado para vigilância por vídeo usam condições da cena como gatilho

Pesquisadores mostram como um cliente malicioso em um sistema federado de detecção de anomalias em vigilância pode implantar backdoors usando condições naturais da cena (pouca luz, ambientes internos, aglomerações) como gatilho, em vez de um padrão artificial, mantendo o ataque furtivo e persistente por centenas de rodadas.

#aprendizado-federado #backdoor #vigilancia #envenenamento-de-dados #artigo-cientifico

Fonte ↗

panoramaOS-2026-267 · 2026-08-21

AEGIS propõe blindar três canais de vazamento de gradiente em ajuste fino federado de LLMs

Pesquisadores identificaram três canais distintos pelos quais gradientes compartilhados durante o treinamento federado de LLMs baseados em transformers vazam o texto original de treinamento, e propuseram o AEGIS, uma defesa leve que neutraliza os três ao mesmo tempo sem mudar a arquitetura do modelo. O trabalho, aceito na NDSS 2027, reduziu a taxa de recuperação de tokens a quase zero em 11 modelos e seis conjuntos de dados, inclusive contra atacantes adaptativos que conhecem a defesa.

#aprendizado-federado #llm #inversao-de-gradiente #privacidade #artigo-cientifico

Fonte ↗

panoramaOS-2026-268 · 2026-08-21

Dupla ofuscação combina criptografia de imagens e gradientes ruidosos para proteger aprendizado federado

Um grupo de pesquisadores japoneses propôs combinar duas técnicas de proteção — zerar aleatoriamente parte dos elementos do gradiente e cifrar as imagens de treinamento com chaves únicas por cliente e por imagem — para dificultar ataques de reconstrução de imagem em aprendizado federado com Vision Transformers. O método reduziu a informação visual recuperada pelo ataque APRIL sem adicionar perda de desempenho além da já causada pela própria cifragem.

#aprendizado-federado #visao-computacional #privacidade #vision-transformer #artigo-cientifico

Fonte ↗

panoramaOS-2026-192 · 2026-08-11

Arquitetura combina zero-trust e aprendizado federado para proteger dispositivos automotivos pós-mercado

Pesquisadores propõem o ZT FL CADE, uma arquitetura que une controle de acesso por dispositivo, aprendizado federado com preservação de privacidade e validação adversarial para proteger dispositivos conectados de pós-mercado automotivo (diagnóstico, atualizações remotas, manutenção preditiva). O sistema treina modelos locais, agrega atualizações de forma federada e roteia decisões de acesso para permitir, desafiar ou colocar em quarentena um dispositivo com base em evidências comportamentais.

#artigo-cientifico #aprendizado-federado #zero-trust #seguranca-automotiva #aprendizado-adversarial

Fonte ↗

risco médioOS-2026-180 · 2026-08-10

Fairis propõe defesa contra 'fairness poisoning' em aprendizado federado usado por instituições financeiras

Pesquisadores mostram que esquemas de agregação sensíveis a fairness em aprendizado colaborativo, como o FairFed, podem ser manipulados por um cliente malicioso que maximiza a disparidade de grupo enquanto preserva a acurácia geral, escapando de defesas Bizantinas tradicionais baseadas apenas em acurácia. O artigo propõe Fairis, um esquema de reponderação no servidor que penaliza clientes com maior disparidade de forma comprovadamente monotônica, reduzindo entre 41% e 54% o peso de um adversário furtivo frente a um controle que ignora esse sinal.

#aprendizado-federado #envenenamento-de-modelo #fairness #artigo-cientifico

Fonte ↗

risco médioOS-2026-066 · 2026-07-22

CPInj expõe injeção de prompt em otimização colaborativa de prompts e mostra que as defesas atuais não seguram o ataque

A Otimização Colaborativa Textual de Prompts (TCPO) deixa múltiplos clientes aprimorarem prompts de LLM de forma descentralizada, mantendo seus dados locais, mas o texto livre trocado nesse processo cria uma superfície de ataque nova. O CPInj mostra que um cliente malicioso consegue contaminar o prompt global agregado de forma que a instrução maliciosa sobrevive à agregação no servidor, resiste à otimização subsequente feita por clientes benignos e evade defesas de detecção, degradando o desempenho de todos os outros participantes.

#artigo-cientifico #prompt-injection #aprendizado-federado #otimizacao-de-prompts

Fonte ↗