Ataque por inversao de modelo com GANs reconstroi imagens de ressonancia a partir de aprendizado federado
Pesquisadores demonstraram um ataque de inversao de modelo contra sistemas de aprendizado federado (federated learning) usados em imagens medicas, usando uma GAN convolucional profunda (DCGAN) para reconstruir, a partir das atualizacoes de modelo compartilhadas, imagens sinteticas de ressonancia cerebral semanticamente reconhecıveis -- sob premissas realistas sobre o que um atacante pode observar. A mitigacao via privacidade diferencial no cliente reduz o sucesso do ataque mas piora a acuracia do modelo; os autores mostram que personalizar o treinamento federado por cliente recupera parte dessa acuracia perdida, sem abrir mao da privacidade diferencial.
Fonte ↗