PAGE404 quebra isolamento multi-tenant do GH200 e consegue estimar o tamanho de prompts de LLM por canal lateral termico/de migracao
Pesquisadores identificaram dois canais laterais na superchip Grace Hopper (GH200) da NVIDIA, que integra CPU e GPU em um dominio de memoria unificado com migracao automatica de paginas: um baseado nos contadores de acesso compartilhados e outro na forma como o driver UVM trata interrupcoes de migracao. Provas de conceito atingem canais encobertos de cerca de 8.500 e 8.100 bits por segundo mesmo atraves de particoes Multi-Instance GPU (MIG), que deveriam oferecer isolamento forte entre inquilinos, e o canal baseado em interrupcoes consegue identificar qual LLM esta rodando e estimar o comprimento do prompt sendo processado durante a inferencia.
Fonte ↗