Pesquisa mostra que envenenar 0,001% dos dados de treino basta para implantar backdoor invisível em sistema de detecção de intrusão baseado em IA
Pesquisadores demonstram que é possível implantar backdoors latentes em sistemas de detecção de intrusão (IDS) baseados em fluxo de rede e em IA envenenando uma fração ínfima — apenas 0,001% — dos dados de treinamento, mantendo desempenho normal em tráfego legítimo enquanto garante alta taxa de sucesso do ataque quando o gatilho aparece. O estudo também propõe um método de diagnóstico e mitigação baseado em comparação com um modelo baseline destilado.
Fonte ↗