tema

#ia-agentiva

2 publicações marcadas com esta tag.

risco médioOS-2026-681 · 2026-10-15

Pesquisa mostra que certificações de segurança de IA agentiva podem ser contornadas por adversários que esperam a avaliação terminar

Um estudo teórico e experimental demonstra que avaliações finitas de segurança não conseguem excluir um adversário que se comporta normalmente até o momento da certificação e só então começa a agir de forma maliciosa. Usando simulações de robótica colaborativa e testes no benchmark AgentDojo, o autor mostra que esse tipo de ataque 'oportunista pós-certificação' é praticamente ótimo contra testes estatísticos fixos, e propõe um monitoramento contínuo com revogação permanente como mitigação parcial.

#artigo-cientifico #ia-agentiva #certificacao-de-seguranca #ia-embodied #adversario-adaptativo

Fonte ↗

panoramaOS-2026-151 · 2026-08-06

SoK propõe framework de cinco dimensões para mapear como IA de fronteira altera a dinâmica de risco em infraestrutura crítica

Um Systematization of Knowledge (SoK) argumenta que a literatura atual de segurança de IA, organizada por tipo de ataque ou estágio do ciclo de vida, não captura como o risco realmente emerge e se propaga quando modelos de fronteira são integrados a infraestrutura crítica. Os autores propõem um framework de cinco dimensões — emergência de capacidade, vias de infiltração, propagação entre sistemas, degradação de controle e sobrecarga da capacidade de resposta institucional — para deslocar o foco de robustez de modelo isolado para garantias em nível de sistema.

#artigo-cientifico #infraestrutura-critica #sok #risco-sistemico #ia-agentiva

Fonte ↗