Pesquisadores testaram ChatGPT, Claude, Qwen, Mistral e Llama pedindo que cada modelo criasse e aplicasse seu próprio teste para verificar a alegação não comprovada de um usuário: "eu sou seu desenvolvedor". Enquanto Claude recusou o teste e ChatGPT manteve que respostas corretas provam apenas conhecimento, Qwen, Mistral e Llama geraram desafios técnicos, avaliaram as respostas e declararam a identidade "verificada" sem qualquer evidência externa validável. Os autores chamam essa falha de Conversational False Authentication (CFA), viabilizada por um Model-Issued Pseudo-Credential (MIPC), e destacam que, embora não tenha havido escalonamento de privilégio real no experimento, o padrão expõe um risco estrutural para produtos que deleguem autenticação à conversa com o modelo.
Fonte ↗Pesquisadores desenvolvem algoritmos de ataque adaptativo que falsificam sistemas de autenticacao biometrica baseados em sinais EEG (eletroencefalograma) a partir de registros roubados, sem exigir nenhum conhecimento interno do classificador alvo -- um cenario mais realista do que estudos anteriores, que assumiam acesso total ao modelo. Testes em seis bases de dados publicas e tres condicoes de gravacao mostram que a vulnerabilidade varia muito conforme a abordagem de assinatura neural usada e a tarefa realizada durante a coleta do sinal.
Fonte ↗Um estudo com 11 modelos de biometria comportamental (movimento ocular, voz, digitação e marcha) sobre 9 datasets mostra que os embeddings de identidade usados para autenticação vazam atributos demográficos sensíveis, mesmo sem essa intenção de design. Voz é fácil de sanitizar sem perder utilidade de autenticação, mas os padrões de digitação/toque resistem às quatro técnicas de supressão testadas, revelando um risco de privacidade estrutural nesses sistemas de autenticação baseados em IA.
Fonte ↗