AgentTrace identifica o modelo por trás de um agente de IA "caixa-preta" observando como ele se recupera de erros
O framework AgentTrace consegue descobrir qual modelo fundacional está por trás de um agente de IA de caixa-preta injetando entradas estruturalmente ambíguas que provocam falhas de serialização em interfaces rígidas de ferramentas, e depois modelando com cadeias de Markov a sequência de tentativas de correção que cada modelo usa para se recuperar desses erros. A técnica atinge 96% de acurácia de atribuição mesmo sob tentativas deliberadas de disfarçar a identidade do modelo, e consegue distinguir até variantes de uma mesma família que compartilham o mesmo tokenizador, como Llama-3 8B e 70B.
Fonte ↗