Estudo mostra que não existe backdoor 'furtivo' de verdade: ataque discreto em um espaço de medição é sempre ruidoso em outro
Pesquisadores propõem uma metodologia de medição em três espaços (entrada, características e parâmetros) para avaliar de forma mais completa quão 'furtivo' um ataque de backdoor em redes neurais realmente é, indo além das métricas isoladas usadas até hoje. Testando ataques de backdoor conhecidos em quatro datasets e três arquiteturas de modelo, os autores mostram que nenhum ataque consegue manter baixa visibilidade simultaneamente nos três espaços, e propõem duas novas métricas para capturar lacunas que passavam despercebidas.
Fonte ↗