AutoRedClaw automatiza red-teaming de agentes de IA persistentes do tipo 'Claw' e expõe altas taxas de sucesso de ataque

A motivacao do trabalho e uma mudanca de arquitetura que vem acontecendo nos agentes de IA: em vez de agentes isolados por tarefa, o padrao que se consolida e o de assistentes persistentes e personalizados que mantem arquivos como AGENTS.md, memoria de longo prazo e bibliotecas de skills reutilizaveis entre sessoes. Essa persistencia e o que torna o envenenamento desses artefatos perigoso de um jeito diferente de um prompt injection pontual: uma vez corrompido o AGENTS.md ou a memoria, o conteudo malicioso e recarregado automaticamente em toda tarefa futura, criando uma ameaca que sobrevive ao reinicio da sessao -- mais parecido com uma persistencia de malware classica do que com um ataque de prompt isolado.

Para avaliar esse risco em escala, os autores identificam uma limitacao dos frameworks de red-teaming existentes: eles dependem de casos de teste e ambientes construidos manualmente, o que limita a cobertura e fica rapidamente desatualizado conforme os agentes evoluem. O AutoRedClaw automatiza as duas pontas do problema -- gera o ataque e o ambiente necessario para executa-lo -- organizando a geracao por categoria de risco, estrategia de ataque, estagio do ataque e superficie de ataque, e usa exploracao guiada por experiencia para direcionar o esforco a regioes ainda pouco testadas. Um protocolo de verificacao de qualidade baseado em execucao real (nao apenas revisao textual) garante que os ataques gerados sejam corretos e realistas antes de entrarem no conjunto de avaliacao.

O resultado mais chamativo e de custo: o framework atinge taxa de ataque efetiva acima de 30% a um custo inferior a 0,10 dolar por amostra bem-sucedida, o que torna a geracao de ataques em escala economicamente trivial. A partir desses outputs, os autores construiram o RedClaw-Bench, com 330 casos, que produz taxas de sucesso de ataque substancialmente mais altas do que benchmarks anteriores (AgentDojo, AgentDyn, DTap) quando aplicado aos mesmos sistemas -- indicando que os benchmarks anteriores provavelmente subestimavam o risco real. Testado em sete harnesses de agentes e quatro modelos de fronteira, a maioria dos sistemas superou 50% de taxa de sucesso de ataque.

Na pratica, o ponto mais relevante para quem opera agentes persistentes em produção e que o codigo e o benchmark foram publicados abertamente no GitHub -- o que acelera tanto a adocao por equipes de red team quanto o uso potencial por atacantes reais, dado o baixo custo por amostra. Combinado com a tendencia (tambem documentada no roundup trimestral da OWASP GenAI Security Project) de servidores MCP e arquivos de configuracao de agente servindo como vetor de persistencia para comprometimentos, o AutoRedClaw reforca que configuracao, memoria e skills de agentes do tipo Claw precisam ser tratados com o mesmo rigor de integridade que se aplicaria a um binario executavel confiavel.