tema

#dados-sinteticos

3 publicações marcadas com esta tag.

risco médioOS-2026-770 · 2026-10-23

Primeiro ataque de inferência de membro contra geração de dados sintéticos via Private Evolution expõe vazamento sob garantias formais de DP

Pesquisadores apresentam o primeiro ataque de inferência de membro (membership inference) em caixa-branca contra o Private Evolution (PE), um framework que gera dados sintéticos usando apenas acesso de caixa-preta a modelos de fundação, sob garantias formais de privacidade diferencial (DP). O ataque explora como o processo iterativo de filtragem por votação do PE favorece a sobrevivência e a proximidade de candidatos sintéticos próximos aos dados privados reais, revelando vazamento empírico em modalidades de imagem, texto e dados tabulares.

#artigo-cientifico #dados-sinteticos #privacidade-diferencial #membership-inference #vazamento-de-dados

Fonte ↗

risco médioOS-2026-711 · 2026-10-19

Estudo compara tecnicas de privacidade para LLMs treinados em dados sensiveis usando canarios de vazamento

Uma comparacao controlada entre fine-tuning direto, DP-SGD e geracao de dados sinteticos mostra que reescrita de registros medicos guiada por instrucoes sensiveis a unicidade oferece o melhor equilibrio entre capacidade e privacidade, superando tanto o fine-tuning cru (mais vazamento) quanto o DP-SGD (mais seguro, mas com forte perda de desempenho). O vazamento e medido injetando 'canarios' -- registros artificiais rastreaveis -- nos dados de treino.

#artigo-cientifico #privacidade #llm #vazamento-de-dados #privacidade-diferencial #dados-sinteticos

Fonte ↗

risco médioOS-2026-604 · 2026-10-06

Ataque de inferencia de pertencimento sem caixa eleva risco de reidentificacao em dados sinteticos de expressao genica

Pesquisadores unificaram cinco variantes de ataques de inferencia de pertencimento (membership inference) em caixa totalmente fechada ('no-box') sob um unico framework de distancia ponderada, aplicado a dados sinteticos de expressao genica gerados por um autoencoder variacional condicional a partir do The Cancer Genome Atlas. A estrategia de ponderacao por residualizacao espectral elevou significativamente a eficacia do ataque, levantando duvidas sobre a protecao de privacidade real oferecida por dados sinteticos nesse dominio.

#artigo-cientifico #inferencia-de-pertencimento #privacidade #dados-sinteticos #no-box #genomica

Fonte ↗