3 publicações marcadas com esta tag.
Uma versão adulterada da extensão oficial do Claude Code para editores baseados em VS Code, publicada na Cursor Marketplace sob a identidade legítima do publisher, instalava um backdoor SSH persistente nas máquinas dos desenvolvedores que a atualizassem. A versão maliciosa, identificada como 2.1.313, levou a Cursor a suspender temporariamente o marketplace até a remoção do pacote.
Fonte ↗O trabalho descreve um ataque de data poisoning que planta um Trojan em um LLM ajustado por instrução, fazendo com que, sempre que um gatilho esteja presente no prompt, o modelo gere respostas artificialmente mais longas e, portanto, mais caras, já que vários provedores cobram bem mais por token de saída do que por token de entrada. O gatilho se generaliza, ativando não apenas em instruções idênticas às usadas no envenenamento, mas também em variações semanticamente próximas, e os autores propõem uma defesa específica contra esse padrão.
Fonte ↗Uma tese de doutorado propõe uma métrica formal de estabilidade para LLMs baseada em divergência de Jensen-Shannon e demonstra ataques práticos contra sistemas de LLM-as-a-Judge, detecção de trojans e agentes baseados em MCP. O destaque é um ataque evolutivo de caixa-preta contra juízes automáticos com taxa de sucesso de até 73,8%, além de defesas (comitês heterogêneos de modelos e atestação criptográfica de chamadas de ferramenta) que reduzem drasticamente esse número.
Fonte ↗