AgentProv detecta troca oculta de modelos em APIs de LLM agenticas pelo padrão de chamadas de ferramentas
Pesquisadores propõem o AgentProv, um método para auditar se uma API comercial de LLM está realmente servindo o modelo anunciado, observando o padrão estatístico de chamadas de ferramentas (tool calls) em vez do texto de saída, que é facilmente distorcido por prompts de sistema injetados pelo provedor. O método identificou 100% das substituições de modelo testadas em 630 pares de checkpoints, com taxa de falso positivo muito menor que técnicas anteriores baseadas em texto.
Fonte ↗