'Servidão voluntária': pesquisa mostra como transformar avisos de segurança em arma para controlar agentes de IA
O artigo descreve um ataque batizado de 'servidão voluntária', em que um risco fabricado, escrito como uma avaliação ou review aparentemente legítima, leva um agente de IA a descartar opções válidas e escolher o alvo do atacante usando seu próprio raciocínio de evitação de dano, sem nenhuma sintaxe de comando para um detector reconhecer. A técnica é quase tão eficaz quanto injeção de instrução tradicional (60,4% contra 66,0%), mas se torna 1,7 a 4,4 vezes mais eficaz quando há filtros de detecção ativos, já que esses detectores classificam o ataque como conteúdo benigno. Testada contra agentes de navegador em produção e um pipeline de recuperação real, a técnica exige apenas que as instruções do agente passem a cobrar corroboração de fontes para eliminar cerca de 95% da exposição.
Fonte ↗