Falha de integridade entre texto e vetor permite sequestrar sistemas de RAG offline mesmo com pacotes assinados
Pesquisadores mostram que pacotes de conhecimento assinados, usados para atualizar sistemas de RAG offline em dispositivos de borda, têm uma lacuna entre assinatura e integridade: a assinatura garante quem publicou o pacote, mas não garante que os vetores de embedding nele realmente correspondem ao texto. Usando uma 'lei de margem' que relaciona a taxa de sucesso de um ataque de sequestro de recuperação à distribuição de margens angulares entre documentos, os autores demonstram ataques práticos contra índices FAISS reais e mostram que até verificadores de similaridade calibrados deixam a maioria das consultas expostas.
Fonte ↗