TNCS: ataque de backdoor em modelos de código consegue alta taxa de sucesso envenenando poucas amostras
O método Trigger-Neutralized Counterfactual Scoring (TNCS) seleciona de forma eficiente quais amostras de treinamento envenenar para implantar um backdoor em modelos de código pré-treinados, isolando a contribuição real de um gatilho ao comparar a saída do modelo numa entrada com o gatilho contra a mesma entrada sem ele. A técnica supera métodos anteriores justamente nas taxas de envenenamento mais baixas — o cenário mais realista para um atacante que quer minimizar sua exposição —, e o conjunto de amostras selecionado continua eficaz mesmo quando transferido para um modelo-vítima diferente daquele usado para escolher as amostras.
Fonte ↗