tema

#modelos-de-difusao

5 publicações marcadas com esta tag.

risco médioOS-2026-766 · 2026-10-23

Mirage: ataque de jailbreak visual contorna filtros de segurança pós-geração em modelos de difusão

O Mirage é um ataque de jailbreak multimodal que esconde um alvo adversarial (uma imagem NSFW de referência ou uma descrição textual maliciosa) dentro de uma perturbação imperceptível aplicada a uma imagem benigna, enganando checadores de segurança pós-geração em modelos de difusão como Stable Diffusion e Kandinsky. O ataque funciona mesmo contra checadores heterogêneos e desconhecidos (caixa-preta), usando apenas refinamento leve por consultas.

#artigo-cientifico #jailbreak #modelos-de-difusao #geracao-de-imagem #bypass-de-filtro

Fonte ↗

panoramaOS-2026-662 · 2026-10-12

WaveMark melhora resistência de watermarks em imagens geradas por IA contra ataques de remoção

O WaveMark é um método de watermarking para modelos de difusão que embute a marca d'água no ruído inicial da geração, distribuindo réplicas do bit da mensagem por posições espaciais, orientações e escalas no domínio wavelet, em vez de depender de um único ponto frágil de inserção. Testado contra 14 ataques de remoção, o método manteve mais de 88% de acurácia de bits mesmo sob os ataques mais fortes avaliados (MarkNull e MarkNull-A), superando as técnicas de referência.

#artigo-cientifico #watermarking #modelos-de-difusao #proveniencia-de-conteudo #deepfake

Fonte ↗

risco médioOS-2026-528 · 2026-09-28

FeatMark propõe watermark semântico contra deepfakes gerados por fine-tuning de difusão

Modelos de difusão texto-para-imagem permitem ataques de “mimicry” com poucos dados: um adversário faz fine-tuning do modelo em um punhado de fotos públicas de uma pessoa para gerar falsificações convincentes dela. O FeatMark propõe substituir watermarks tradicionais de pixel, facilmente removíveis por pós-processamento leve, por micro-edições semânticas naturais à cena, e se manteve robusto contra os dez ataques de remoção testados, incluindo purificação por regeneração.

#artigo-cientifico #deepfake #watermarking #modelos-de-difusao #mimicry-attack #protecao-de-identidade

Fonte ↗

risco altoOS-2026-414 · 2026-09-14

Ataque de forjamento quebra marca d'água Tree-Ring de imagens geradas por difusão mesmo sem acesso à chave secreta

Pesquisadores reproduziram, em hardware modesto, o ataque de forjamento "Reprompt" contra a marca d'água semântica Tree-Ring usada em modelos de difusão como o Stable Diffusion XL, conseguindo fazer o detector legítimo aceitar como autênticas imagens que o atacante nunca assinou com a chave secreta do sistema. O resultado reforça que watermarking, cotado como mecanismo de prova de proveniência de conteúdo gerado por IA, pode ser forjado, e não apenas removido, por quem nunca teve acesso ao segredo do esquema.

#watermarking #modelos-de-difusao #deepfakes #proveniencia-de-conteudo #artigo-cientifico

Fonte ↗

panoramaOS-2026-228 · 2026-08-13

Pesquisadores usam "colapso de geração" para identificar cópias não autorizadas de modelos de difusão texto-para-imagem

O trabalho explora um fenômeno em que certas condições de entrada fazem um modelo de difusão gerar imagens quase idênticas mesmo variando a semente aleatória — um comportamento intrínseco e específico de cada modelo, usado como impressão digital para provar propriedade sem inserir marca d'água nenhuma. A técnica funciona tanto com acesso total ao pipeline quanto apenas via API pública, e se mantém confiável mesmo em versões fine-tunadas ou sob tentativas de ofuscação.

#artigo-cientifico #modelos-de-difusao #propriedade-intelectual #fingerprinting #extracao-de-modelo

Fonte ↗