Pesquisadores demonstram que evidência forense pode ser usada para injetar instruções em assistentes de IA de perícia digital
Um grupo de pesquisadores, incluindo Frank Breitinger e Mark Scanlon, demonstrou três ataques de prova de conceito em que texto plantado em um dispositivo apreendido manipula um pipeline de análise forense assistido por LLM, alterando a conclusão reportada, escrevendo conteúdo controlado pelo atacante na estação do analista e gerando tráfego de rede de saída. O estudo introduz a noção de “perception gap” (lacuna de percepção), em que ferramentas determinísticas, o examinador humano e o modelo de IA percebem a mesma evidência de formas diferentes, permitindo que a injeção passe despercebida pelo analista.
Fonte ↗