SPILLWAY separa admissão de alvo e sanitização para blindar agentes de IA contra prompt injection
Pesquisadores propõem o SPILLWAY, um mecanismo determinístico que decide se uma chamada de ferramenta de um agente de IA pode seguir adiante com base na proveniência do valor-alvo (se veio de um campo tipado de uma ferramenta somente-leitura) em vez de depender de um modelo de linguagem para julgar cada decisão. O método zerou o sucesso de ataques de prompt injection padronizados nos testes relatados, mantendo a utilidade do agente quase intacta.
Fonte ↗