olimposec.com
tema

#defesa-cibernetica-autonoma

2 publicações marcadas com esta tag.

panoramaOS-2026-730 · 2026-10-20
0

SecODD adapta conceito de domínio operacional de carros autônomos para governar agentes de defesa cibernética autônoma

O artigo propõe o SecODD, um framework de governança em tempo de execução para agentes de Defesa Cibernética Autônoma que adapta o conceito de Operational Design Domain usado na regulação de veículos autônomos. Ele define o escopo autorizado de ações defensivas automatizadas, modela quando a intervenção humana precisa permanecer possível, e especifica condições auditáveis de devida diligência por meio de um 'Mitigation Safe Harbor', apoiado em quatro requisitos técnicos: logging à prova de adulteração, orquestração com humano no loop, playbooks de rollback e controles de transição para estado seguro.

Fonte ↗
risco médioOS-2026-160 · 2026-08-06
0

Trident usa agente de LLM para quebrar defesas cibernéticas autônomas baseadas em aprendizado por reforço

Sistemas de defesa cibernética autônoma baseados em Deep Reinforcement Learning são hoje avaliados quase exclusivamente contra agentes vermelhos estáticos e heurísticos, deixando sua robustez contra ameaças adaptativas pouco testada. O Trident, um framework de red-team agêntico baseado em LLM com arquitetura 'código como política', reduziu o desempenho defensivo de agentes azuis em 522% na média usando um único planejador treinável de 7 bilhões de parâmetros, descobrindo autonomamente comportamentos emergentes como evasão de decoys que heurísticas estáticas nunca haviam revelado.

Fonte ↗