Pesquisa em IA offline na borda encontra falha grave: pacote de conhecimento envenenado passa por todas as verificações de assinatura
Avaliando mecanismos de confiança para RAG local rodando totalmente offline em um Raspberry Pi 5, pesquisadores descobrem que seus pacotes de conhecimento assinados e versionados — o canal de atualização proposto para dispositivos sem conectividade constante — podem ser envenenados sem quebrar nenhuma verificação de assinatura ou hash, desde que o atacante consiga assinar o pacote corretamente. Em 30 perguntas antes respondidas corretamente, as respostas corretas caíram a zero após a injeção, com 14 delas retornando exatamente a resposta maliciosa inserida.
Fonte ↗