VeilNN usa ofuscacao de arquitetura para impedir que ataques adversariais se propaguem entre dispositivos
Assim como o BMO, o framework VeilNN ataca o problema de modelos de IA on-device identicos distribuidos em massa, em que um exemplo adversarial criado contra um dispositivo comprometido transfere-se com sucesso para todos os outros que rodam a mesma copia do modelo. A diferenca e a tecnica: VeilNN ofusca o modelo em dois niveis -- obfuscacao de celulas de rede e reorganizacao de camadas -- e funciona em MLPs, CNNs e Vision Transformers. Os resultados mostram sucesso medio de defesa de 49,19% (ate 81,19% dependendo do ataque), mais de 33 pontos percentuais acima das defesas existentes.
Fonte ↗