SMOKE implanta backdoor em LLM que só desperta depois que o modelo é mesclado com outro, escapando de auditorias de segurança
Pesquisadores descrevem o One-sided Merging-Conditional Backdoor (OMCB), um backdoor que permanece completamente inerte e indetectável enquanto o modelo malicioso está isolado, mas se ativa automaticamente quando esse modelo é combinado via model merging com outro, rompendo o alinhamento de segurança do modelo resultante. O framework de ataque SMOKE usa meta-aprendizado para treinar esse gatilho condicional, driblando as auditorias de backdoor que hoje são feitas apenas sobre modelos isolados antes da fusão.
Fonte ↗