MMA-SafetyBench expõe ataque de 'sequestro semântico visual' contra agentes de IA multimodais
Pesquisadores criam o MMA-SafetyBench, um benchmark com mais de mil trajetórias adversariais que testa agentes de IA multimodais contra 'Visual Semantic Hijacking' — elementos de interface falsos, como alertas de sistema forjados, inseridos no que o agente vê na tela para desviá-lo da tarefa original. O ataque atingiu taxa de sucesso de quase 88% e taxa de comprometimento semântico de 98% entre nove modelos avaliados, mesmo quando prompts neutros de segurança foram usados.
Fonte ↗