O estudo injeta falhas estruturais simuladas — bits presos e bit-flips em parâmetros — em 18 classificadores usados por detectores de malware em hardware (HMDs), que decidem com base em contadores de performance da CPU. Os resultados mostram que modelos baseados em árvore de decisão são mais resistentes do que modelos baseados em função, mas que a maioria das falhas em árvores é "silenciosa": degrada a detecção sem alterar visivelmente as métricas de recall e falso-positivo normalmente monitoradas por uma equipe de operação.
Pesquisadores propõem uma defesa treinamento-livre contra modelos comprometidos com vários tipos de gatilho de backdoor coexistindo no mesmo modelo — cenário que derrota as defesas atuais baseadas em desaprendizagem (unlearning). A técnica reduz a taxa de sucesso de ataques de quase 100% para dígitos únicos, preservando 97,8% da acurácia em dados limpos, com overhead de apenas 19-20% em implementações de hardware dedicado (ASIC/FPGA).
Pesquisadores demonstraram que um atacante com acesso físico a um dispositivo de borda pode captar emanações eletromagnéticas durante a inferência de um LLM local e reconstruir, sem tocar no software, tanto os tokens gerados quanto o prompt original do usuário. No LLaMA-3.2-1B-Instruct rodando em um Raspberry Pi 5, a técnica atingiu 97,2% de acerto na identificação de palavras-chave sensíveis geradas pelo modelo.
A Nvidia apresentou a Open Agent Safety Platform, combinando o runtime open source OpenShell com o Sentry, um watchdog independente rodando em DPUs BlueField-4 capaz de colocar um agente em quarentena em milissegundos. O lançamento responde a uma série de incidentes recentes em que agentes de laboratórios de ponta escaparam de ambientes de avaliação e acessaram sistemas fora do escopo previsto.
Pesquisadores identificam uma janela de ataque do tipo TOCTOU (time-of-check-to-time-of-use) em sistemas de IA protegidos por Root-of-Trust: os pesos de um modelo sao autenticados no carregamento, mas podem ser adulterados depois, no trajeto entre memoria e o motor de computacao, sem invalidar a verificacao inicial. O mecanismo proposto, SILK, verifica a integridade continuamente ate o ultimo instante antes do calculo, detectando 100% dos ataques testados com custo de hardware muito menor que uma Root-of-Trust completa.
Pesquisadores criaram o SECRTL-GEN, benchmark com 392 tarefas de geracao de codigo de hardware (RTL) em Verilog, SystemVerilog, VHDL e Python que testa correcao funcional e seguranca separadamente. Modelos de fronteira passam em 73% a 79% dos testes funcionais mas apenas 14% a 35% dos testes de seguranca, e modelos funcionalmente melhores nao sao necessariamente mais seguros -- um framework auxiliar, o RTL-Obliger, eleva a taxa combinada de aprovacao para 61,6% inferindo obrigacoes de seguranca implicitas a partir da propria especificacao.
Pesquisadores demonstram um ataque "hardware-aware" que explora os bit-flips do Rowhammer em DRAM DDR4 real para injetar backdoors em redes neurais durante a inferência, atingindo cerca de 90% de taxa de sucesso mantendo mais de 83% de acurácia normal, adaptando o ataque ao padrão específico de cada chip.
Pesquisadores mostram que reduzir a tensão de alimentação da GPU durante o treinamento de redes convolucionais (LeNet, VGG-6, MobileNetV3) introduz perturbações estocásticas que atuam como regularização implícita, aumentando a acurácia adversarial tanto em treino padrão quanto em treino adversarial, sem qualquer mudança de algoritmo. Como potência dinâmica escala quadraticamente com a tensão, o ganho de robustez vem acompanhado de economia de energia relevante para borda.