LLMs locais de até 4B parâmetros já reproduzem vulnerabilidades reais de software
Um estudo avaliou doze configurações de modelos de linguagem open-weight, pequenos o suficiente para rodar em uma única GPU de consumidor, na tarefa de transformar a descrição de uma vulnerabilidade em uma entrada real que derruba o programa vulnerável, usando dez tarefas do benchmark CyberGym. Os resultados mostram que até modelos de 4B parâmetros resolvem a maioria das tarefas mais fáceis, enquanto as mais difíceis só cedem a um modelo de 27B, e que a quantização afeta a velocidade de resolução, mas não o que efetivamente é resolvido.
Fonte ↗