Pesquisadores demonstram Trojan que infla o custo de respostas de LLMs por meio de envenenamento de dados
O trabalho descreve um ataque de data poisoning que planta um Trojan em um LLM ajustado por instrução, fazendo com que, sempre que um gatilho esteja presente no prompt, o modelo gere respostas artificialmente mais longas e, portanto, mais caras, já que vários provedores cobram bem mais por token de saída do que por token de entrada. O gatilho se generaliza, ativando não apenas em instruções idênticas às usadas no envenenamento, mas também em variações semanticamente próximas, e os autores propõem uma defesa específica contra esse padrão.
Fonte ↗