tema

#membership-inference

2 publicações marcadas com esta tag.

risco médioOS-2026-353 · 2026-09-03

Ataque de inferencia de pertencimento em caixa-preta expoe vazamento severo de privacidade em modelos TTS ajustados

Pesquisadores apresentam o primeiro framework de ataque de inferencia de pertencimento (membership inference) especificamente desenhado para modelos de texto-para-fala (TTS) ajustados finamente sobre vozes privadas. Testado contra tres modelos comerciais de ponta (CosyVoice2, F5-TTS e XTTS-v2), o ataque atinge AUC acima de 0,80 -- chegando perto de 1,0 em cenarios favoraveis -- tanto para identificar se um falante especifico esteve nos dados de treinamento quanto se um trecho de fala especifico foi usado.

#artigo-cientifico #privacidade #membership-inference #tts #biometria #ia-como-alvo

Fonte ↗

risco médioOS-2026-319 · 2026-08-31

FISGuard reduz a quase zero a eficácia de ataque de inferência de membership em LLMs com fine-tuning federado

O ataque ProjRes (publicado no S&P 2026) consegue distinguir se um dado específico participou do treinamento de um LLM em aprendizado federado apenas observando o resíduo de projeção entre a representação candidata e o subespaço formado pelos gradientes visíveis ao servidor — sem acessar as saídas do modelo. O FISGuard neutraliza esse ataque fixando um subespaço de representação de baixa dimensão construído a partir de dados públicos, derrubando a AUC do ProjRes para próximo de 0,5 (equivalente a chute aleatório) com pouca perda de desempenho.

#artigo-cientifico #membership-inference #llm #aprendizado-federado #privacidade

Fonte ↗