#computer-use-agents

risco altoOS-2026-391 · 2026-09-10

AgentHijack: patch visual escondido em página web sequestra agentes multimodais de uso de computador

Pesquisadores propõem um framework de avaliação ponta a ponta para testar se um patch visual local, embutido numa página web, consegue disparar injeção de comando contra agentes de uso de computador (CUAs) multimodais. Em 600 casos de teste contra cinco back-ends abertos de agente/VLM, o ataque atingiu 84,5% de sucesso ao nível do modelo de visão e 20,3% de sucesso ponta a ponta, com casos registrados em que o agente executa um comando malicioso de terminal e depois retoma a tarefa original como se nada tivesse acontecido.

#artigo-cientifico #agentes-de-ia #computer-use-agents #ataque-adversarial #injecao-de-comando #vlm

Fonte ↗

risco médioOS-2026-311 · 2026-08-28

Benchmark ADeptS-Bench mostra agentes de uso de computador clicando em 'checkout' de US$ 25 mil sem hesitar

Pesquisadores apresentam o ADeptS-Bench, benchmark que avalia se agentes de uso de computador (Computer Use Agents) resistem a ameacas embutidas na propria interface visual e se pedem esclarecimento diante de instrucoes ambiguas. Nenhum dos sete modelos avaliados consegue manter mais de 80% de sucesso em tarefas legitimas com menos de 30% de taxa de sucesso de ataque, e nenhum detecta um botao de 'reset de fabrica' disfarçado como 'Otimizar'.

#computer-use-agents #agentes-de-ia #benchmark #pesquisa #artigo-cientifico #seguranca-de-agentes

Fonte ↗