Pesquisa isola a 'camada de envelope' como superfície de defesa pouco estudada contra ataques a agentes LLM
O artigo caracteriza a "camada de envelope" — o canal pelo qual conteúdo externo entra em um agente LLM, distinto da defesa no próprio modelo ou na lógica do agente — usando o ataque A2A-TIBA como vetor de teste, e mostra que rótulos de confiança fortes só reduzem ataques de forma consistente quando o envelope é autêntico e não pode ser forjado pelo atacante. O achado mais relevante é que a memória do agente pesa mais do que qualquer rótulo: lembranças de sucessos anteriores de ataque aumentam a taxa de violação, lembranças de fracassos a reduzem, e misturar as duas tende a neutralizar o efeito.
Fonte ↗