Backdoor-as-a-Service: ataque em caixa-preta ativa comportamento oculto sem tocar em pesos ou dados de treino
Pesquisadores apresentam uma tecnica de backdoor que dispensa qualquer envenenamento de dados ou manipulacao direta do modelo: usando busca genetica, eles descobrem transformacoes de entrada que ativam uma tarefa secundaria latente ja presente no comportamento do modelo. O metodo foi validado contra um classificador MNIST e contra um classificador de conteudo NSFW de nivel de producao, convertido em um proxy de classificacao demografica.
Fonte ↗