Pesquisadores propõem o Baya, um agente web que, em vez de decidir cada ação a partir do conteúdo em tempo real de uma página (o padrão ReAct), primeiro compila o pedido do usuário em um programa Python que só interage com o site através de uma API confiável. Essa separação entre planejamento e execução elimina por construção a possibilidade de uma injeção de prompt embutida numa página sequestrar o fluxo de controle do agente, zerando a taxa de sucesso de ataques no benchmark de segurança WASP sem perder desempenho em tarefas reais.
Fonte ↗O benchmark REEF cobre nove sites funcionais e verificáveis, pareando tarefas legítimas com objetivos maliciosos entregues por cinco tipos de ataque, para medir quão vulneráveis são agentes web baseados em modelos de visão e linguagem a conteúdo adversarial injetado durante a navegação. O framework ANGLER usa os resultados de tentativas anteriores para evoluir os ataques de forma adaptativa, elevando a taxa de sucesso de 15,24% para 20,36% em oito agentes testados, e reduzindo a taxa de sucesso em tarefas legítimas de 61,9% para 44,4%.
Fonte ↗Pesquisadores propõem o MPIDetector, que usa o próprio raciocínio em contexto (in-context learning) de LLMs para identificar instruções maliciosas escondidas em texto ou imagens, em vez de depender de assinaturas ou perplexidade. O método atinge até 90,91% de acurácia em texto, 99,28% em imagens e 99,8% de detecção contra 500 injeções altamente ofuscadas em agentes web.
Fonte ↗