AutoRedClaw automatiza red-teaming de agentes de IA persistentes do tipo 'Claw' e expõe altas taxas de sucesso de ataque
Agentes persistentes e personalizados, no estilo OpenClaw, mantem arquivos de configuracao, memoria de longo prazo e skills reutilizaveis que sao recarregados em cada sessao -- o que significa que, uma vez envenenados, permanecem comprometidos entre tarefas e sessoes diferentes. O framework AutoRedClaw automatiza a geracao de ataques completos (incluindo os ambientes necessarios para executa-los) contra esse tipo de agente, alcancando taxa de ataque efetiva acima de 30% a menos de 0,10 dolar por amostra. O benchmark derivado, RedClaw-Bench, mostra que a maioria dos sistemas de agentes testados -- em sete harnesses e quatro modelos de ponta -- supera 50% de taxa de sucesso de ataque.
Fonte ↗