PipePoison mostra ataque de envenenamento de memória de longo prazo em agentes de LLM que sobrevive a oito defesas
Pesquisadores apresentam o PipePoison, um ataque que otimiza de ponta a ponta o envenenamento indireto da memória de longo prazo de agentes de LLM, tratando as etapas de escrita, recuperação e uso da memória como um único problema acoplado em vez de otimizá-las isoladamente. O ataque aumenta a taxa de utilização bem-sucedida do conteúdo envenenado em 19,1 pontos percentuais frente a abordagens anteriores, mantendo eficácia mesmo contra oito defesas representativas e em configurações de vítima nunca vistas antes.
Fonte ↗