LLM-Attacker padroniza avaliacao de ataques de privacidade contra LLMs distribuidos e divididos entre cliente e servidor
O framework resolve um problema metodologico em pesquisa de privacidade: avaliacoes de ataques contra modelos de linguagem divididos (split learning) nao sao comparaveis entre si quando cada estudo usa acesso, pesos e dados diferentes. Em um experimento controlado com GPT-2, dar ao atacante acesso a gradientes de treino elevou a recuperacao exata de documentos inteiros de 13,71% para 37,77%, uma diferenca estatisticamente acima do limiar definido a priori pelos autores.
Fonte ↗