Pesquisadores apresentam o RATION, um framework que troca o modelo tradicional de restringir rigidamente as ações de um agente de IA por um controle de acesso que acumula e limita risco quantitativo ao longo da execução da tarefa. A política combina restrições explícitas do pedido do usuário com riscos implícitos calibrados a partir de execuções históricas de tarefas similares, aplicando diferentes estratégias de contenção conforme o tipo de risco acumulado.
Pesquisadores do grupo de trabalho da OWASP compararam o ranking de riscos do Top 10 para LLMs, definido por consenso de especialistas, com um levantamento de mais de 6.600 incidentes reais extraídos de bases como CVE, GHSA, OSV e AIAAIC. A concordância entre o ranking de especialistas e o ranking baseado em incidentes reais foi fraca (Cohen's kappa ~0,20), embora o próprio ranking de especialistas continue sendo o mais robusto quando testado contra classificadores automatizados de última geração.
A OWASP GenAI Security Project lançou o "Top 10 for Agentic Applications", framework que cataloga os principais riscos de sistemas de IA autônomos que usam ferramentas e agem no mundo real. O documento foi construído a partir de incidentes reais e da colaboração de mais de 100 especialistas do setor, oferecendo a times de segurança um vocabulário comum e prioridades concretas de mitigação diante da adoção acelerada de agentes de IA.