Framework CREO gera ataques adversariais que evoluem continuamente contra agentes de busca baseados em LLM
Pesquisadores apresentam o CREO (Contrastive Rollout Evolutionary Optimization), um framework que gera ataques adversariais contra agentes de busca baseados em LLM que precisam consultar a web aberta para responder perguntas complexas. Diferente de ataques com conteúdo malicioso fixo, a técnica evolui continuamente a estratégia de ataque através de otimização em dois níveis entre atacante e agente-alvo. Testes em benchmarks de QA multi-hop com LLMs atuais mostram que essa abordagem dinâmica supera claramente baselines estáticos de injeção de conteúdo adversarial.
Fonte ↗