BenchDoor mostra como benchmarks de IA podem ser explorados para implantar backdoors em modelos
O trabalho introduz BenchDoor, uma familia de ataques de envenenamento de dados que exploram o incentivo natural de laboratorios e pesquisadores em melhorar pontuacoes em benchmarks publicos: o atacante distribui dados de treinamento que, alem de melhorar genuinamente o desempenho no benchmark, implantam um backdoor escondido no modelo. Em 30 configuracoes testadas (classificacao de texto, Q&A de multipla escolha e Q&A aberta, com modelos Qwen e Gemma), o ataque atingiu entre 82,33% e 100% de sucesso no backdoor com apenas 2% a 10% de envenenamento, mantendo mais de 90% de sucesso mesmo apos tecnicas de descontaminacao baseadas em similaridade.
Fonte ↗