ReMAS usa aprendizado por reforço para extrair prompts de sistema de sub-agentes em sistemas multi-agente
Pesquisadores apresentam o ReMAS, primeiro framework de red-teaming baseado em aprendizado por reforço voltado especificamente a sistemas multi-agente de LLM, treinando um modelo atacante para gerar prompts que extraem prompts de sistema de sub-agentes que normalmente não interagem diretamente com o usuário final. O método supera ataques de caixa-preta existentes, projetados para agentes únicos, e demonstra transferibilidade entre diferentes modelos de backend e arquiteturas multi-agente.
Fonte ↗