tema

#ataque-adversarial

6 publicações marcadas com esta tag.

risco altoOS-2026-391 · 2026-09-10

AgentHijack: patch visual escondido em página web sequestra agentes multimodais de uso de computador

Pesquisadores propõem um framework de avaliação ponta a ponta para testar se um patch visual local, embutido numa página web, consegue disparar injeção de comando contra agentes de uso de computador (CUAs) multimodais. Em 600 casos de teste contra cinco back-ends abertos de agente/VLM, o ataque atingiu 84,5% de sucesso ao nível do modelo de visão e 20,3% de sucesso ponta a ponta, com casos registrados em que o agente executa um comando malicioso de terminal e depois retoma a tarefa original como se nada tivesse acontecido.

#artigo-cientifico #agentes-de-ia #computer-use-agents #ataque-adversarial #injecao-de-comando #vlm

Fonte ↗

risco médioOS-2026-355 · 2026-09-03

Ataques adversariais em caixa-preta conseguem falsificar biometria neural baseada em EEG

Pesquisadores desenvolvem algoritmos de ataque adaptativo que falsificam sistemas de autenticacao biometrica baseados em sinais EEG (eletroencefalograma) a partir de registros roubados, sem exigir nenhum conhecimento interno do classificador alvo -- um cenario mais realista do que estudos anteriores, que assumiam acesso total ao modelo. Testes em seis bases de dados publicas e tres condicoes de gravacao mostram que a vulnerabilidade varia muito conforme a abordagem de assinatura neural usada e a tarefa realizada durante a coleta do sinal.

#artigo-cientifico #biometria #ataque-adversarial #eeg #autenticacao #ia-como-alvo

Fonte ↗

risco médioOS-2026-347 · 2026-09-02

PipePoison mostra ataque de envenenamento de memória de longo prazo em agentes de LLM que sobrevive a oito defesas

Pesquisadores apresentam o PipePoison, um ataque que otimiza de ponta a ponta o envenenamento indireto da memória de longo prazo de agentes de LLM, tratando as etapas de escrita, recuperação e uso da memória como um único problema acoplado em vez de otimizá-las isoladamente. O ataque aumenta a taxa de utilização bem-sucedida do conteúdo envenenado em 19,1 pontos percentuais frente a abordagens anteriores, mantendo eficácia mesmo contra oito defesas representativas e em configurações de vítima nunca vistas antes.

#artigo-cientifico #envenenamento-de-memoria #agentes-de-llm #ataque-adversarial

Fonte ↗

risco médioOS-2026-194 · 2026-08-11

Primeiro ataque adversarial black-box contra modelo de OCR generativo expõe falhas de decodificação

Pesquisadores apresentam o que descrevem como o primeiro ataque adversarial totalmente black-box contra um modelo de OCR generativo (baseado no Deep-OCR/DeepSeek-OCR), atuando apenas a partir da string de saída, sem acesso a gradientes ou logits. Perturbações imperceptíveis na imagem, otimizadas via estimativa de gradiente por diferenças finitas, foram suficientes para causar repetição, truncamento e vazamento de instruções internas do decodificador.

#artigo-cientifico #ataque-adversarial #ocr #visao-computacional #ataque-black-box

Fonte ↗

risco altoOS-2026-097 · 2026-07-28

Ataque 'Pretend Benign' engana percepção colaborativa de veículos autônomos; defesa GLST tenta reagir a ataques coordenados

Pesquisadores demonstram que sistemas de percepção colaborativa V2X, que trocam dados de sensores entre veículos conectados para melhorar a detecção de objetos, podem ser enganados por um atacante que injeta perturbações furtivas nas regiões de maior confiança da fusão de dados. A defesa proposta, GLST, combina três sinais de consistência para identificar colaboradores maliciosos mesmo quando vários atacantes atuam em conjunto para simular consenso.

#artigo-cientifico #veiculos-autonomos #v2x #ataque-adversarial #percepcao-colaborativa

Fonte ↗

risco altoOS-2026-100 · 2026-07-28

VIPatch: adesivo adversarial físico engana sistemas de reconhecimento facial que combinam câmeras visíveis e infravermelhas

Pesquisadores apresentam o VIPatch, um adesivo físico disfarçado de curativo que engana simultaneamente sensores visíveis e infravermelhos usados em sistemas de detecção facial fundidos — uma combinação até então considerada mais resistente a ataques adversariais do que sensores isolados. O ataque atinge taxa de sucesso acima de 90% tanto no domínio digital quanto no físico, mantendo aparência discreta para observadores humanos.

#artigo-cientifico #ataque-adversarial #biometria #reconhecimento-facial #visao-computacional

Fonte ↗