O artigo propõe o DP-BR-FedAvg, um framework de aprendizado federado que combina privacidade diferencial via mecanismo Gaussiano com agregação robusta a clientes Bizantinos por média aparada por coordenada. Em simulações com 20 clientes (25% maliciosos) em uma tarefa de classificação inspirada em detecção de fraude e risco clínico, o FedAvg tradicional colapsa na classe minoritária, enquanto a proposta recupera parte relevante do sinal, ainda que com custo de acurácia em relação a uma versão apenas robusta, sem privacidade. Os resultados mostram que privacidade e robustez não se somam de forma simples, mas interagem, o que tem implicações diretas para o design de sistemas de ML federado em setores regulados.
O estudo mostra que, em sistemas federados de detecção de intrusão de rede, privacidade diferencial formal, robustez contra participantes bizantinos e boa cobertura de ataques raros não se combinam de graça como a literatura costuma assumir. Usando o dataset UNSW-NB15 com DP-SGD e agregação por mediana por coordenada sob ataques de inversão de rótulos e envenenamento de modelo, os autores demonstram que o ruído de privacidade dispersa as atualizações dos clientes a ponto de a agregação robusta confundir sinais de ataques raros com outliers maliciosos. O resultado é uma degradação desproporcional da detecção justamente nas categorias de ataque mais escassas, com um piso residual de desempenho que persiste mesmo após ajuste do orçamento de privacidade.
StraightDP ataca o problema de perda abrupta de qualidade ao treinar modelos generativos condicionados a texto sob privacidade diferencial forte, explorando a geometria de rectified flows para gastar o orçamento de privacidade de forma mais inteligente. A técnica libera uma única vez estatísticas agregadas por classe e reserva o restante do orçamento para o treinamento detalhado, melhorando substancialmente a acurácia sob o mesmo nível de privacidade. Isso torna garantias formais de privacidade mais viáveis para pipelines de geração de imagem que hoje evitam usá-las por causa da perda de qualidade.
Pesquisadores apontam uma falha conceitual nos métodos atuais de proteção de privacidade em RAG: eles tratam o risco de vazamento como uma propriedade fixa de cada documento, ignorando que o risco real depende de qual pergunta o usuário faz. O framework proposto, PA-HDP, avalia o risco dinamicamente por consulta e aplica privacidade diferencial hierárquica apenas ao conteúdo que se torna sensível naquele contexto específico.