ADLER mede e reduz vazamento de dados privados em decodificação colaborativa entre modelo local e LLM na nuvem
Pesquisadores mostram que, em assistentes que combinam um modelo pequeno no dispositivo com um LLM na nuvem via decodificação colaborativa, o transcript de mensagens trocadas durante a geração pode revelar conteúdo privado que nem a pergunta pública nem a resposta final jamais expõem — em um teste com um segredo plantado, rascunhos privados de decodificação especulativa rejeitados pelo modelo da nuvem ainda assim enviaram o segredo para fora do dispositivo. Os autores propõem o ADLER, um protocolo de decodificação em que toda mensagem enviada à nuvem depende apenas da pergunta pública e da resposta final, acompanhado de um 'livro-razão de vazamento' que quantifica quanto cada resposta revela além do que o usuário vê.
Fonte ↗