Nova métrica expõe pontos cegos de detectores de anomalia multi-fonte contra manipulação furtiva direcionada
O artigo propõe a "margem de visibilidade condicionada à tarefa", uma métrica que mede quanta evidência um atacante precisa expor a um detector de anomalias por unidade de dano causado a uma decisão downstream específica, em vez de medir apenas a taxa de detecção de corrupção genérica e aleatória. Aplicada a um benchmark industrial de 17 canais, a métrica revela que um detector capaz de identificar 82,8% de corrupções aleatórias é "cego de primeira ordem" em 64,7% das combinações de tarefa e subconjunto de sensores manipuláveis, e prioriza auditorias com eficácia muito superior a abordagens aleatórias ou baseadas em alarme.
Pipelines de segurança industrial costumam combinar várias fontes de telemetria e proteger a decisão final com um detector de anomalia que olha para o conjunto combinado. A métrica padrão de qualidade desses detectores é a taxa de falso-positivo em condições normais e a taxa de detecção contra corrupção aleatória, mas nenhuma das duas captura o comportamento de um atacante que não quer ruído aleatório, e sim manipular exatamente os canais e nas direções que mudam uma decisão específica do sistema a jusante, permanecendo abaixo do limiar de alarme do detector.
A margem de visibilidade condicionada à tarefa é definida como a menor evidência que o detector consegue captar por unidade de dano causado à tarefa final, calculada em forma fechada e com custo de cerca de 85 microssegundos por certificado — rápido o suficiente para rodar como ferramenta de priorização de auditoria em produção. A métrica identifica diretamente as direções de manipulação relevantes para a tarefa que o detector simplesmente não vê, construindo a partir delas o ataque de mínima evidência correspondente.
No benchmark de telemetria industrial com 17 canais, um detector que captura 82,8% das corrupções aleatórias de canal único se mostrou cego de primeira ordem em 64,7% dos pares tarefa/subconjunto testados, considerando subconjuntos manipuláveis de um a quatro canais. Manipulações condicionadas à tarefa causaram mais que o dobro de "falsos alarmes tranquilizadores" — erros que fazem o sistema parecer seguro quando não está — em comparação a ataques furtivos genéricos, e escaparam do alarme com mais frequência em quatro de cinco divisões do experimento, principalmente sob orçamentos de manipulação pequenos.
Usada para priorizar auditorias em subconjuntos de sensores ainda não verificados, a métrica encontrou uma mediana de quatro falhas confirmadas em dez verificações, contra zero com ordenação aleatória e duas com ordenação baseada em nível de alarme, um ganho prático relevante para equipes de segurança operacional com orçamento limitado de auditoria manual. O trabalho também valida a abordagem em detectores de aprendizado profundo usados na prática, como GDN e TranAD, e em um painel real de monitoramento agrícola, reforçando que a lacuna entre "detecta corrupção aleatória" e "detecta manipulação direcionada" é um problema real e mensurável em sistemas de detecção de anomalia hoje em produção, não apenas uma preocupação teórica.