#destilacao-de-conhecimento

risco médioOS-2026-702 · 2026-10-16

DAR mostra que backdoors em modelos de IA podem sobreviver a destilacao de conhecimento mesmo sem dados de treino envenenados visivelmente

Pesquisadores apresentam o DAR (Discover-and-Relabel), uma tecnica de backdoor que, em vez de injetar um padrao-gatilho artificial facilmente removido por destilacao de conhecimento (KD), encontra padroes que ja ocorrem naturalmente em subespacos de baixa dimensao dos dados e reetiqueta apenas amostras que ja satisfazem esse padrao. O resultado e um backdoor que mantem taxa de sucesso de ataque acima de 96% mesmo depois que o modelo comprometido passa por destilacao com dados limpos — processo que, ate entao, era considerado uma defesa eficaz de purificacao contra esse tipo de ataque.

#artigo-cientifico #backdoor #envenenamento-de-modelo #destilacao-de-conhecimento #cadeia-de-suprimentos-ia

Fonte ↗

panoramaOS-2026-543 · 2026-09-29

Pesquisadores usam PUFs de hardware para rastrear roubo de modelos de IA via destilação de conhecimento

Um novo método embute assinaturas físicas únicas (PUFs, Physical Unclonable Functions) derivadas de FPGAs diretamente nos logits do modelo professor durante a destilação de conhecimento, fazendo com que qualquer modelo aluno treinado a partir desses logits herde uma identidade rastreável ao dispositivo de origem. A técnica resiste a modificações pós-destilação e permite atribuir vazamentos de propriedade intelectual a um dispositivo específico, algo que watermarking de software tradicional não consegue.

#artigo-cientifico #roubo-de-modelo #destilacao-de-conhecimento #puf #propriedade-intelectual #watermarking

Fonte ↗