"Utility-hijacking" engana seletores de dados de fine-tuning para concentrar, em vez de filtrar, registros maliciosos
Pesquisadores (Yahao Ren e coautores) demonstram um ataque de fornecedor contra seletores automáticos de dados de instruction-tuning, que normalmente escolhem os registros mais “úteis” para treinar um modelo e descartar dados nocivos. O ataque, batizado de utility-hijacking, gera muitas variações de um registro malicioso e submete apenas a que recebe a maior pontuação de utilidade, elevando recusa indevida (over-refusal) de 0% para 94% e geração de código inseguro em até 56 de 90 casos nos modelos vítima testados.
Fonte ↗