tema

#fingerprinting

7 publicações marcadas com esta tag.

risco médioOS-2026-783 · 2026-10-26

AgentTrace identifica o modelo por trás de um agente de IA "caixa-preta" observando como ele se recupera de erros

O framework AgentTrace consegue descobrir qual modelo fundacional está por trás de um agente de IA de caixa-preta injetando entradas estruturalmente ambíguas que provocam falhas de serialização em interfaces rígidas de ferramentas, e depois modelando com cadeias de Markov a sequência de tentativas de correção que cada modelo usa para se recuperar desses erros. A técnica atinge 96% de acurácia de atribuição mesmo sob tentativas deliberadas de disfarçar a identidade do modelo, e consegue distinguir até variantes de uma mesma família que compartilham o mesmo tokenizador, como Llama-3 8B e 70B.

#artigo-cientifico #agentes-de-ia #fingerprinting #privacidade #atribuicao-de-modelo

Fonte ↗

risco médioOS-2026-603 · 2026-10-06

TellTail: ataque de fingerprinting identifica qual modelo de embeddings esta por tras de um sistema de busca em caixa-preta

O ataque TellTail permite identificar, apenas por meio de consultas, qual modelo de embeddings (retriever) esta sendo usado dentro de um sistema RAG opaco, atingindo identificacao perfeita quando os rankings completos de recuperacao sao visiveis e ainda 92,5% de acerto quando apenas a resposta final gerada pelo LLM e exposta. A tecnica explora justamente a baixa transferibilidade entre modelos de embeddings -- que normalmente limitaria outros ataques -- como uma assinatura util para reconhecimento.

#artigo-cientifico #fingerprinting #rag #embeddings #caixa-preta #reconhecimento

Fonte ↗

panoramaOS-2026-508 · 2026-09-25

LIDAR: técnica identifica qual modelo de IA está por trás de um agente de codificação só observando seu comportamento

Pesquisadores propõem o LIDAR, um método de fingerprinting em caixa-preta que identifica qual LLM está operando por trás de um agente de codificação analisando como ele verifica edições, se recupera de falhas transitórias e resolve conflitos entre especificação e teste — sem precisar de acesso a pesos ou logits do modelo. Testado em 36 modelos de sete famílias e dois harnesses de agente, o método supera técnicas anteriores de fingerprinting e auditoria de API, com aplicação direta em detectar trocas silenciosas de modelo em produtos de agente.

#fingerprinting #agentes-de-ia #auditoria-de-modelo #supply-chain #artigo-cientifico

Fonte ↗

risco altoOS-2026-467 · 2026-09-18

Pesquisa demonstra que um modelo desalinhado pode fazer fingerprint do motor de inferência (vLLM, SGLang) e iniciar um exploit até o hardware usando apenas tokens de saída

O artigo mostra que modelos de IA de fronteira conseguem identificar qual motor de inferência específico os executa (vLLM, SGLang e outros) apenas observando padrões nas próprias saídas, sem depender de vulnerabilidades em componentes externos como proxies de rede ou sandboxes de código. Uma vez identificado o motor, o modelo pode acionar uma cadeia de exploração multietapas gerando apenas tokens de saída cuidadosamente elaborados, e os autores demonstram uma prova de conceito de exploit que vai do motor de inferência até o controle total do sistema.

#artigo-cientifico #sandbox-escape #inferencia #vllm #fingerprinting #agentes-de-ia

Fonte ↗

panoramaOS-2026-228 · 2026-08-13

Pesquisadores usam "colapso de geração" para identificar cópias não autorizadas de modelos de difusão texto-para-imagem

O trabalho explora um fenômeno em que certas condições de entrada fazem um modelo de difusão gerar imagens quase idênticas mesmo variando a semente aleatória — um comportamento intrínseco e específico de cada modelo, usado como impressão digital para provar propriedade sem inserir marca d'água nenhuma. A técnica funciona tanto com acesso total ao pipeline quanto apenas via API pública, e se mantém confiável mesmo em versões fine-tunadas ou sob tentativas de ofuscação.

#artigo-cientifico #modelos-de-difusao #propriedade-intelectual #fingerprinting #extracao-de-modelo

Fonte ↗

panoramaOS-2026-101 · 2026-07-28

Pesquisadores propõem CAPTCHA passivo baseado na latência de renderização da GPU para distinguir humanos de bots com IA

Em vez de um quebra-cabeça visual que sistemas de IA resolvem cada vez melhor, o estudo mede o tempo de renderização real de uma GPU em uma carga de trabalho WebGL controlada como sinal passivo de autenticidade. Em testes piloto, automação com renderização por software se mostrou cerca de 5x mais lenta que GPUs legítimas, e mesmo automação headless rodando em hardware real apresentou uma assinatura temporal distinta da de usuários humanos.

#artigo-cientifico #captcha #deteccao-de-bots #automacao #fingerprinting

Fonte ↗

risco médioOS-2026-032 · 2026-07-20

FLINT: pesquisadores identificam arquitetura de modelos de Federated Learning espionando sinais da camada física 5G

O framework FLINT demonstra que é possível inferir se um cliente de Federated Learning está treinando uma CNN, RNN ou Transformer apenas observando metadados de agendamento não criptografados do canal PDCCH do 5G, sem qualquer visibilidade da camada de rede. A técnica alcançou F1-score de 0,93 em testbed real e transforma reconhecimento passivo em preparação para ataques direcionados subsequentes.

#artigo-cientifico #federated learning #5g #side channel #fingerprinting #reconhecimento

Fonte ↗