Servidor malicioso pode usar agregadores robustos de aprendizado federado para apagar marcas d'água de LLMs
Pesquisadores mostram que os mesmos agregadores robustos usados em aprendizado federado para bloquear ataques de envenenamento também servem, nas mãos de um servidor malicioso, como mecanismo eficaz de remoção de marcas d'água em LLMs — fazendo métodos de watermarking existentes falharem na detecção de uso indevido do modelo final. A defesa proposta, CamoMark, camufla as atualizações marcadas para que pareçam estatisticamente normais aos olhos do agregador.
Fonte ↗