#gpu — OlimpoSec

risco altoOS-2026-699 · 2026-10-16

PAGE404 quebra isolamento multi-tenant do GH200 e consegue estimar o tamanho de prompts de LLM por canal lateral termico/de migracao

Pesquisadores identificaram dois canais laterais na superchip Grace Hopper (GH200) da NVIDIA, que integra CPU e GPU em um dominio de memoria unificado com migracao automatica de paginas: um baseado nos contadores de acesso compartilhados e outro na forma como o driver UVM trata interrupcoes de migracao. Provas de conceito atingem canais encobertos de cerca de 8.500 e 8.100 bits por segundo mesmo atraves de particoes Multi-Instance GPU (MIG), que deveriam oferecer isolamento forte entre inquilinos, e o canal baseado em interrupcoes consegue identificar qual LLM esta rodando e estimar o comprimento do prompt sendo processado durante a inferencia.

#artigo-cientifico #canal-lateral #gpu #multi-tenant #llm #infraestrutura-de-ia #nvidia

Fonte ↗

risco altoOS-2026-336 · 2026-09-01

JITterFlip: ataque de bit-flip via Rowhammer contra o compilador JIT explora servidores de LLM na nuvem

JITterFlip é o primeiro ataque de bit-flip (Rowhammer) direcionado ao plano de controle do compilador JIT usado por servidores de inferência de LLM na nuvem, em vez de atacar os pesos do modelo diretamente. Ao corromper decisões de serving residentes na CPU, os pesquisadores conseguem tanto degradar a saída (amplificação de perplexidade de até 2,48 milhões de vezes) quanto montar um ataque de esponja que aumenta a latência em até 182 vezes mantendo a saída correta, contornando defesas recentes contra bit-flip em LLMs — inclusive via Rowhammer real, sem acesso direto à memória da GPU.

#artigo-cientifico #rowhammer #bit-flip-attack #llm-serving #jit-compilation #gpu

Fonte ↗