Pesquisa revela que a assinatura de modelos LLM não garante nada sobre a versão quantizada que você realmente executa
Um estudo mostra que, embora a indústria assine criptograficamente os pesos em precisão total de modelos de LLM, praticamente nenhum dos 200 repositórios GGUF mais baixados do Hugging Face documenta o ambiente de build necessário para reproduzir de forma verificável o artefato quantizado que os usuários de fato executam. Isso cria uma lacuna de verificabilidade na cadeia de suprimentos de LLMs quantizados, onde um artefato malicioso ou adulterado pode passar por legítimo sem que ninguém consiga confirmar sua origem exata.
Fonte ↗