CAT-RAG usa categorias de segurança, em vez de CWEs individuais, para gerar código mais seguro via RAG

Sistemas de geração de código assistida por RAG tentam reduzir vulnerabilidades injetando, no contexto do prompt, trechos de conhecimento de segurança recuperados de uma base externa, tipicamente organizada no nível de CWEs individuais. O problema prático dessa granularidade fina é duplo: quando uma consulta do usuário envolve múltiplas fraquezas relacionadas simultaneamente, o sistema recupera vários trechos de CWEs distintos, inflando o prompt e diluindo a atenção do modelo entre informações redundantes ou pouco relevantes para a tarefa específica, e, como efeito colateral de segurança adicional, uma base de conhecimento verbosa e granular também é uma superfície maior para ataques de envenenamento de retrieval.

O CAT-RAG propõe resolver isso reorganizando o conhecimento de segurança em categorias mais amplas e específicas por linguagem, por exemplo, Validação de Entrada e Ataques de Injeção como uma única categoria, em vez de recuperar separadamente dezenas de CWEs individuais relacionados a esse tema. Cada categoria consolida boas práticas e exemplos de código seguro em uma representação única e compacta, eficiente em tokens, e um agente categorizador baseado em LLM realiza a seleção adaptativa de quais categorias são relevantes para cada consulta específica, decidindo dinamicamente a granularidade de conhecimento a injetar no prompt.

Um ponto de design relevante é que o CAT-RAG foi desenhado para funcionar tanto como camada de segurança autônoma quanto como complemento plugável a pipelines de RAG já existentes, sem exigir modificação do modelo de geração de código subjacente, uma escolha pragmática de adoção, já que organizações que já investiram em um pipeline de geração assistida por RAG não precisam trocar sua arquitetura, apenas inserir essa camada de categorização de segurança antes da recuperação final.

Os resultados experimentais, avaliados em CyberSecEval, CodeGuard+ e HumanEval, mostram que o CAT-RAG quase dobra a melhoria de geração de código seguro em relação ao estado da arte anterior no CyberSecEval, 23,57% contra 12,11%, ao mesmo tempo em que reduz o overhead de tokens em 41,71%, um resultado que importa na prática porque mostra que categorização mais abstrata do conhecimento de segurança não é apenas mais eficiente computacionalmente, mas também mais eficaz, provavelmente porque reduz o ruído informacional que competia por atenção do modelo em pipelines de granularidade mais fina, oferecendo um caminho de melhoria de segurança de código gerado por IA sem custo adicional significativo de latência ou contexto.