Pesquisadores apresentam o SparseBleed, o primeiro ataque de inferência de atributos a nível de hardware que contorna defesas de privacidade consideradas estado da arte, explorando o fato de que otimizações de esparsidade em aceleradores de IA (AVX2/AVX-512/AMX da Intel, Tensor Cores da NVIDIA com esparsidade 2:4, e bibliotecas como oneDNN e cuSPARSE) criam assinaturas de tempo estáveis que funcionam como proxy da confiança do modelo. Sem precisar de acesso a gradientes, pesos, rótulos ou traços de energia, o ataque recupera com 99,8% de acurácia o rótulo de saída verdadeiro (procedimento cirúrgico) em um modelo de saúde treinado sobre dados Texas-100X, usando apenas uma única consulta.
Fonte ↗Em arquiteturas de "split inference" onde um dispositivo processa as camadas iniciais de um modelo multimodal e envia apenas características intermediárias para um servidor na nuvem, pesquisadores mostram que um servidor honesto-mas-curioso ainda consegue inferir atributos protegidos como idade, gênero e raça a partir dessas características, mesmo quando defesas de privacidade já estão em vigor. No caso do Safe-LLaVA, que remove conteúdo biométrico das respostas finais do modelo, apenas 20 amostras rotuladas por classe bastam para recuperar entre 75% e 85% do vazamento que existiria sem proteção alguma.
Fonte ↗O GraphProfiler demonstra que perfiladores baseados em LLM conseguem inferir atributos sensíveis como idade, renda e ocupação a partir da agregação de pistas espalhadas em posts aparentemente inofensivos, com taxa de sucesso de até 86,7%. Diferente de perfiladores anteriores, o sistema rastreia cada inferência até o post de origem, permitindo mostrar que remover os poucos posts realmente reveladores neutraliza o ataque de forma muito mais eficiente do que apagar posts aleatórios.
Fonte ↗Um estudo com 11 modelos de biometria comportamental (movimento ocular, voz, digitação e marcha) sobre 9 datasets mostra que os embeddings de identidade usados para autenticação vazam atributos demográficos sensíveis, mesmo sem essa intenção de design. Voz é fácil de sanitizar sem perder utilidade de autenticação, mas os padrões de digitação/toque resistem às quatro técnicas de supressão testadas, revelando um risco de privacidade estrutural nesses sistemas de autenticação baseados em IA.
Fonte ↗O paper mostra que um adversário pode reforçar a inferência de atributos privados de uma pessoa apenas escolhendo quais dos seus posts públicos e autênticos expor a um modelo de inferência, sem alterar nenhum conteúdo. Os autores validam o ataque com testes estatísticos rigorosos em perfis sintéticos e no dataset PAN15, e implementam uma auditoria on-device em um Pixel 10 com atestação criptográfica para detectar esse tipo de manipulação.
Fonte ↗