Estudo com 563 mil ataques reais mostra que vítimas de prompt injection reaproveitam as técnicas que funcionaram contra elas
Usando dados do jogo online Tensor Trust, pesquisadores mostram que jogadores cujas defesas de LLM foram violadas reutilizam os ataques recebidos contra outros jogadores dez vezes mais do que ataques equivalentes que nunca os atingiram, e que esse reaproveitamento segue o sucesso do ataque, não sua aparência superficial. O trabalho também mostra que divulgar o ataque recebido ajuda a vítima a corrigir sua defesa, criando uma tensão direta entre transparência defensiva e o risco de capacitar novos atacantes.
Fonte ↗