Um novo metodo chamado BMO ataca um problema especifico de modelos de IA distribuidos em muitos dispositivos (celulares, IoT): se um unico aparelho e comprometido e seu modelo e extraido, exemplos adversariais criados contra ele funcionam igualmente bem em todos os outros dispositivos que rodam a mesma copia do modelo. A defesa decompoe os parametros do modelo em um componente de posicao e um de curvatura da fronteira de decisao, injetando ruido apenas na curvatura para gerar uma fronteira levemente diferente em cada dispositivo, sem perder acuracia. Nos testes, a taxa media de defesa saltou de 22,32% (melhor linha de base) para 68,68%.
Fonte ↗Assim como o BMO, o framework VeilNN ataca o problema de modelos de IA on-device identicos distribuidos em massa, em que um exemplo adversarial criado contra um dispositivo comprometido transfere-se com sucesso para todos os outros que rodam a mesma copia do modelo. A diferenca e a tecnica: VeilNN ofusca o modelo em dois niveis -- obfuscacao de celulas de rede e reorganizacao de camadas -- e funciona em MLPs, CNNs e Vision Transformers. Os resultados mostram sucesso medio de defesa de 49,19% (ate 81,19% dependendo do ataque), mais de 33 pontos percentuais acima das defesas existentes.
Fonte ↗Pesquisadores propõem um framework de avaliação ponta a ponta para testar se um patch visual local, embutido numa página web, consegue disparar injeção de comando contra agentes de uso de computador (CUAs) multimodais. Em 600 casos de teste contra cinco back-ends abertos de agente/VLM, o ataque atingiu 84,5% de sucesso ao nível do modelo de visão e 20,3% de sucesso ponta a ponta, com casos registrados em que o agente executa um comando malicioso de terminal e depois retoma a tarefa original como se nada tivesse acontecido.
Fonte ↗Pesquisadores desenvolvem algoritmos de ataque adaptativo que falsificam sistemas de autenticacao biometrica baseados em sinais EEG (eletroencefalograma) a partir de registros roubados, sem exigir nenhum conhecimento interno do classificador alvo -- um cenario mais realista do que estudos anteriores, que assumiam acesso total ao modelo. Testes em seis bases de dados publicas e tres condicoes de gravacao mostram que a vulnerabilidade varia muito conforme a abordagem de assinatura neural usada e a tarefa realizada durante a coleta do sinal.
Fonte ↗Pesquisadores apresentam o PipePoison, um ataque que otimiza de ponta a ponta o envenenamento indireto da memória de longo prazo de agentes de LLM, tratando as etapas de escrita, recuperação e uso da memória como um único problema acoplado em vez de otimizá-las isoladamente. O ataque aumenta a taxa de utilização bem-sucedida do conteúdo envenenado em 19,1 pontos percentuais frente a abordagens anteriores, mantendo eficácia mesmo contra oito defesas representativas e em configurações de vítima nunca vistas antes.
Fonte ↗Pesquisadores apresentam o que descrevem como o primeiro ataque adversarial totalmente black-box contra um modelo de OCR generativo (baseado no Deep-OCR/DeepSeek-OCR), atuando apenas a partir da string de saída, sem acesso a gradientes ou logits. Perturbações imperceptíveis na imagem, otimizadas via estimativa de gradiente por diferenças finitas, foram suficientes para causar repetição, truncamento e vazamento de instruções internas do decodificador.
Fonte ↗Pesquisadores demonstram que sistemas de percepção colaborativa V2X, que trocam dados de sensores entre veículos conectados para melhorar a detecção de objetos, podem ser enganados por um atacante que injeta perturbações furtivas nas regiões de maior confiança da fusão de dados. A defesa proposta, GLST, combina três sinais de consistência para identificar colaboradores maliciosos mesmo quando vários atacantes atuam em conjunto para simular consenso.
Fonte ↗Pesquisadores apresentam o VIPatch, um adesivo físico disfarçado de curativo que engana simultaneamente sensores visíveis e infravermelhos usados em sistemas de detecção facial fundidos — uma combinação até então considerada mais resistente a ataques adversariais do que sensores isolados. O ataque atinge taxa de sucesso acima de 90% tanto no domínio digital quanto no físico, mantendo aparência discreta para observadores humanos.
Fonte ↗