tema

#membership-inference

6 publicações marcadas com esta tag.

risco médioOS-2026-865 · 2026-11-05

Ataque de inferência de pertencimento temporal expõe quando dados entraram no treinamento de modelos atualizados continuamente

Pesquisadores apresentam o primeiro estudo sistemático de um novo tipo de ataque de privacidade contra modelos de aprendizado profundo atualizados continuamente: a inferência de 'pertencimento temporal', que tenta descobrir não apenas se uma amostra foi usada no treinamento, mas quando isso ocorreu. O ataque proposto, TMIA, usa LSTMs bidirecionais para analisar como as saídas do modelo mudam ao longo de atualizações sucessivas e supera os métodos anteriores de inferência de pertencimento em testes com modelos de linguagem e de visão.

#artigo-cientifico #privacidade #membership-inference #aprendizado-continuo

Fonte ↗

panoramaOS-2026-808 · 2026-10-28

Pesquisa sistematiza ataques de inferência de membership que resistem a ruído e perturbação dos dados

O artigo apresenta uma formulação simplificada de ataques "robustos" de inferência de membership — aqueles que continuam funcionando mesmo quando as estatísticas do modelo ou do dataset estão bastante ruidosas — para estimação de média em distribuições Gaussianas multivariadas e distribuições de produto binário. Além da construção técnica, o trabalho funciona como um levantamento da literatura sobre o tema, cobrindo histórico, extensões e conexões com outras áreas de privacidade.

#artigo-cientifico #membership-inference #privacidade #modelos-estatisticos

Fonte ↗

risco médioOS-2026-770 · 2026-10-23

Primeiro ataque de inferência de membro contra geração de dados sintéticos via Private Evolution expõe vazamento sob garantias formais de DP

Pesquisadores apresentam o primeiro ataque de inferência de membro (membership inference) em caixa-branca contra o Private Evolution (PE), um framework que gera dados sintéticos usando apenas acesso de caixa-preta a modelos de fundação, sob garantias formais de privacidade diferencial (DP). O ataque explora como o processo iterativo de filtragem por votação do PE favorece a sobrevivência e a proximidade de candidatos sintéticos próximos aos dados privados reais, revelando vazamento empírico em modalidades de imagem, texto e dados tabulares.

#artigo-cientifico #dados-sinteticos #privacidade-diferencial #membership-inference #vazamento-de-dados

Fonte ↗

risco médioOS-2026-648 · 2026-10-09

Ataque de canal lateral de energia infere dados de treinamento de modelos de ML embarcados mesmo sem acesso as saidas

Ataques de inferencia de pertencimento normalmente dependem de observar probabilidades ou rotulos previstos por um modelo, o que leva muitos sistemas embarcados a suprimir essas saidas como mitigacao de privacidade. O PSCMIA mostra que isso nao basta: analisando apenas o tracado de consumo de energia durante a execucao do modelo em microcontroladores reais, o ataque ainda consegue inferir, com ate 0,907 de AUC-ROC, se uma amostra especifica fez parte do conjunto de treinamento.

#side-channel #membership-inference #embedded-ml #privacy #artigo-cientifico

Fonte ↗

risco médioOS-2026-353 · 2026-09-03

Ataque de inferencia de pertencimento em caixa-preta expoe vazamento severo de privacidade em modelos TTS ajustados

Pesquisadores apresentam o primeiro framework de ataque de inferencia de pertencimento (membership inference) especificamente desenhado para modelos de texto-para-fala (TTS) ajustados finamente sobre vozes privadas. Testado contra tres modelos comerciais de ponta (CosyVoice2, F5-TTS e XTTS-v2), o ataque atinge AUC acima de 0,80 -- chegando perto de 1,0 em cenarios favoraveis -- tanto para identificar se um falante especifico esteve nos dados de treinamento quanto se um trecho de fala especifico foi usado.

#artigo-cientifico #privacidade #membership-inference #tts #biometria #ia-como-alvo

Fonte ↗

risco médioOS-2026-319 · 2026-08-31

FISGuard reduz a quase zero a eficácia de ataque de inferência de membership em LLMs com fine-tuning federado

O ataque ProjRes (publicado no S&P 2026) consegue distinguir se um dado específico participou do treinamento de um LLM em aprendizado federado apenas observando o resíduo de projeção entre a representação candidata e o subespaço formado pelos gradientes visíveis ao servidor — sem acessar as saídas do modelo. O FISGuard neutraliza esse ataque fixando um subespaço de representação de baixa dimensão construído a partir de dados públicos, derrubando a AUC do ProjRes para próximo de 0,5 (equivalente a chute aleatório) com pouca perda de desempenho.

#artigo-cientifico #membership-inference #llm #aprendizado-federado #privacidade

Fonte ↗