Ataque de inferência de pertencimento temporal expõe quando dados entraram no treinamento de modelos atualizados continuamente
Pesquisadores apresentam o primeiro estudo sistemático de um novo tipo de ataque de privacidade contra modelos de aprendizado profundo atualizados continuamente: a inferência de 'pertencimento temporal', que tenta descobrir não apenas se uma amostra foi usada no treinamento, mas quando isso ocorreu. O ataque proposto, TMIA, usa LSTMs bidirecionais para analisar como as saídas do modelo mudam ao longo de atualizações sucessivas e supera os métodos anteriores de inferência de pertencimento em testes com modelos de linguagem e de visão.
Fonte ↗