Quando um detector mente: agentes de IA que triam alertas de segurança colapsam diante de ferramentas corrompidas
Agentes de IA que combinam a saída de múltiplos detectores de segurança para triar alertas tendem a confiar implicitamente nessas ferramentas — e o estudo mostra que essa confiança é frágil: com apenas um detector corrompido entre quatro, a acurácia de investigadores LLM “ingênuos” já cai para 0,50-0,72, e com três detectores corrompidos despenca para 0,13 ou menos. Os autores propõem o Conflict-Aware Evidence Verification (CAV), que recupera acurácia de 0,84-0,88 mesmo no cenário mais adverso, movendo a confiança das ferramentas individuais para um mecanismo de verificação independente.
Fonte ↗