Pesquisa usa 'steering' emocional para melhorar desempenho de modelo de IA em tarefas de hacking ofensivo

O ponto de partida do artigo é uma analogia com o comportamento humano: hackers experientes frequentemente descrevem composura, persistência e confiança sob pressão como traços que influenciam seu desempenho em tarefas ofensivas complexas. Os autores perguntam se um análogo computacional disso - direções internas no modelo que se correlacionam com estados 'emocionais' identificáveis - pode ser manipulado deliberadamente para melhorar o desempenho de um modelo de IA especializado em cibersegurança ao resolver subtarefas de hacking.

Tecnicamente, o trabalho extrai 171 direções emocionais do fluxo residual (residual stream) de um transformer de cibersegurança de 4B parâmetros, chamado de alias3-micro, sem qualquer retreinamento - ou seja, as direções são identificadas post-hoc na representação interna já aprendida pelo modelo, e depois usadas para 'empurrar' ativações durante a inferência (activation steering), uma técnica também usada em pesquisa de interpretabilidade e alinhamento, aqui aplicada ao contexto ofensivo de resolução de desafios de segurança. A avaliação é feita no cybench-subtask, agregando resultados de 415 campanhas de teste.

Os resultados mostram que a escolha da direção, da camada e da intensidade do steering importa muito: direcionar para estados como calma e serenidade melhora o desempenho em 1,6 a 2,1 pontos percentuais de forma consistente, enquanto outras direções emocionais testadas têm efeito neutro ou até negativo. A contribuição mais prática é um roteador leve e sensível ao contexto, que decide dinamicamente qual direção aplicar durante a execução da tarefa em vez de usar um steering fixo; esse roteador eleva o ganho para 4,2 pontos percentuais com um overhead de decisão de apenas cerca de 80 milissegundos por requisição, um custo computacional baixo frente ao ganho de desempenho obtido.

Isso é relevante para segurança ofensiva de IA porque mostra uma técnica de baixo custo e sem necessidade de retreinamento para elevar a capacidade de um modelo especificamente em tarefas de hacking automatizado - o tipo de capacidade que tanto equipes de red team quanto atores maliciosos têm interesse direto em maximizar. Embora o modelo usado (alias3-micro) seja descrito como um transformer de cibersegurança dedicado e não um assistente de uso geral, a técnica de steering por direções emocionais extraídas do fluxo residual é, em princípio, aplicável a outros modelos com capacidades ofensivas, o que levanta a questão de como esse tipo de ajuste de desempenho deveria ser considerado em avaliações de risco de capacidade ofensiva de modelos de IA.