Sistema multiagente baseado em LLM descobre 105 falhas lógicas desconhecidas em frameworks de autopilot de drones de código aberto

O problema que o IMF ataca é uma lacuna real das técnicas tradicionais de descoberta de vulnerabilidades: fuzzing e análise estática clássica são eficazes para encontrar bugs que se manifestam como crashes ou falhas óbvias, mas falhas lógicas em sistemas de piloto automático — erros sutis na forma como módulos, comandos e estado em tempo de execução se relacionam semanticamente entre si — raramente travam o programa. Em vez disso, elas produzem decisões de voo erradas, mas tecnicamente 'válidas' do ponto de vista do código, o que exige entender a intenção e as regras de negócio do sistema, não apenas seu fluxo de execução.

A arquitetura proposta usa três agentes LLM com papéis distintos operando em pipeline: um agente 'auditor' propõe hipóteses de falha lógica a partir de um corte de programa (program slicing) cuidadosamente construído para destacar relações semânticas relevantes entre módulos; agentes 'tester' então escrevem e executam casos de teste automatizados para cada hipótese candidata; e um agente 'log analyzer' finalmente valida se os logs de execução resultantes realmente confirmam o comportamento inseguro previsto pela hipótese. Esse desenho em três estágios é uma resposta direta a uma limitação conhecida de LLMs usados isoladamente para achar vulnerabilidades: eles tendem a ficar limitados pelo contexto disponível e enviesados para padrões de bug frequentes no conjunto de treinamento, então dividir o trabalho em propor → testar → validar permite que o sistema confirme empiricamente hipóteses em vez de confiar apenas no julgamento do modelo.

O resultado — 105 falhas lógicas previamente desconhecidas encontradas nos dois frameworks de autopilot de código aberto mais usados do mundo, PX4 e ArduPilot — é expressivo tanto em volume quanto em severidade potencial: as categorias de comportamento inseguro identificadas incluem falhas de interrupção de missão, execução de ações inválidas e entrada em zonas de voo restritas, qualquer uma das quais pode ter consequências de segurança física real em drones operando em ambientes compartilhados com pessoas, outras aeronaves ou infraestrutura sensível.

Isso importa na prática porque PX4 e ArduPilot são a base de software de uma fração enorme de drones comerciais, de pesquisa e até militares no mundo, e falhas lógicas desse tipo historicamente escapavam de testes de QA tradicionais justamente por não causarem crash. Um sistema capaz de automatizar a descoberta desse tipo de falha em escala tem valor claro tanto para os próprios mantenedores dos frameworks (reduzindo a superfície de ataque antes do deploy) quanto, no sentido inverso, como lembrete de que a mesma técnica, em mãos não autorizadas, poderia ser usada para encontrar formas de sabotar ou desviar drones alheios de forma sutil e difícil de atribuir a um ataque.