Mirage: ataque de jailbreak visual contorna filtros de segurança pós-geração em modelos de difusão
O Mirage é um ataque de jailbreak multimodal que esconde um alvo adversarial (uma imagem NSFW de referência ou uma descrição textual maliciosa) dentro de uma perturbação imperceptível aplicada a uma imagem benigna, enganando checadores de segurança pós-geração em modelos de difusão como Stable Diffusion e Kandinsky. O ataque funciona mesmo contra checadores heterogêneos e desconhecidos (caixa-preta), usando apenas refinamento leve por consultas.
Fonte ↗