Auditoria mostra que embeddings de biometria comportamental vazam gênero, idade e altura mesmo sem essa intenção
Um estudo com 11 modelos de biometria comportamental (movimento ocular, voz, digitação e marcha) sobre 9 datasets mostra que os embeddings de identidade usados para autenticação vazam atributos demográficos sensíveis, mesmo sem essa intenção de design. Voz é fácil de sanitizar sem perder utilidade de autenticação, mas os padrões de digitação/toque resistem às quatro técnicas de supressão testadas, revelando um risco de privacidade estrutural nesses sistemas de autenticação baseados em IA.
Pesquisadores conduziram a primeira auditoria sistemática de vazamento demográfico em sistemas de autenticação biométrica comportamental (BBA) — sistemas que usam deep learning para transformar sinais como movimento ocular, voz, dinâmica de digitação/toque e marcha em embeddings de identidade usados para autenticar usuários. O estudo cobre 11 modelos treinados em 9 datasets diferentes, abrangendo as quatro modalidades biométricas.
O achado central é que, mesmo sendo projetados apenas para codificar identidade, esses embeddings acabam também codificando — de forma não intencional — atributos demográficos sensíveis como gênero, idade e altura, inclusive para usuários que nunca apareceram no conjunto de treinamento ou enrolamento. Isso significa que qualquer parte com acesso ao modelo de autenticação (um fornecedor de biometria, ou um atacante que consegue extrair o modelo) pode inferir características demográficas dos usuários apenas a partir dos sinais biométricos coletados, sem precisar de dados demográficos declarados explicitamente.
Os autores também avaliaram quatro técnicas de mitigação pós-hoc — Incremental Variable Elimination (IVE), Hilbert-Schmidt Independence Criterion (HSIC), Adversarial Encoder-Decoder (AED) e Protected Attribute Suppression System (PASS) — para tentar suprimir esse vazamento sem destruir a utilidade do embedding para autenticação. O resultado varia muito por modalidade: embeddings de voz apresentam vazamento alto, mas relativamente fácil de suprimir; já embeddings de digitação/toque vazam menos informação, porém são muito mais resistentes a todas as quatro técnicas testadas.
Na prática, isso expõe um risco de privacidade estrutural em uma categoria de sistema de autenticação já em uso crescente, porque a própria natureza da representação aprendida por deep learning tende a capturar correlações demográficas junto com o sinal de identidade, e "consertar" isso não é trivial nem uniforme entre modalidades. Para quem avalia ou implanta biometria comportamental, o resultado sugere tratar a supressão demográfica como um requisito de design a ser testado por modalidade, e não assumir que ela vem de graça junto com a arquitetura de autenticação.