Como detectores de watermark tornam-se vulneráveis a forjas e ataques adversariais no momento em que são publicados para verificação pública, o PP-Mark ancora uma marca d'água estatística leve a uma prova de conhecimento zero do próprio processo de geração, de forma que conteúdo forjado não consiga passar pela verificação completa por construção. Os autores validam formalmente a infalsificabilidade sob premissas criptográficas padrão e testam o esquema contra forja black-box, otimização white-box e ataques de regeneração em dois modelos de difusão latente (SD2.1 e SDXL).
Pesquisadores propuseram um detector forense que usa a frequencia da rede eletrica (ENF) -- o zumbido captado no audio e a cintilacao captada no video -- para autenticar gravacoes contra video gerado por IA. O achado central inverte a logica usual de deteccao: a presenca do sinal ENF ja aparece em video sintetico com a mesma prevalencia do video real, entao so a comparacao com uma referencia independente de tempo e local permite distinguir autenticidade.
O artigo propõe um exercício estruturado de 'deepfake readiness drill' para testar, antes de um incidente real, como equipes de segurança e finanças reagem a chamadas de voz e vídeo clonadas usadas em fraudes de pagamento, reset de senha e pedidos de acesso. A ideia central é simular o cenário clássico de golpe do CEO/CFO com voz sintética para encontrar falhas no processo de verificação antes que um atacante real o explore.
O WaveMark é um método de watermarking para modelos de difusão que embute a marca d'água no ruído inicial da geração, distribuindo réplicas do bit da mensagem por posições espaciais, orientações e escalas no domínio wavelet, em vez de depender de um único ponto frágil de inserção. Testado contra 14 ataques de remoção, o método manteve mais de 88% de acurácia de bits mesmo sob os ataques mais fortes avaliados (MarkNull e MarkNull-A), superando as técnicas de referência.
O framework Thrive embute identificadores multi-bit em fala gerada por sistemas de texto-para-fala autoregressivos, permitindo rastrear a origem e atribuir a autoria da fala sintetica mesmo depois que ela passa por transformacoes de edicao ou reconstrucao projetadas para remover o sinal. O sistema mantem 87,6% de acerto medio na recuperacao da marca de agua sob ataque e suporta atribuicao entre ate 10 mil identidades distintas, sem degradar a qualidade do audio gerado.
Modelos de difusão texto-para-imagem permitem ataques de “mimicry” com poucos dados: um adversário faz fine-tuning do modelo em um punhado de fotos públicas de uma pessoa para gerar falsificações convincentes dela. O FeatMark propõe substituir watermarks tradicionais de pixel, facilmente removíveis por pós-processamento leve, por micro-edições semânticas naturais à cena, e se manteve robusto contra os dez ataques de remoção testados, incluindo purificação por regeneração.
Reportagem do The Hacker News descreve a virada do phishing para uma fase orientada por agentes autônomos de IA generativa, que automatizam reconhecimento de alvos, redigem iscas personalizadas e produzem deepfakes de voz e vídeo em múltiplos canais simultâneos. O caso citado da engenharia Arup, em que um deepfake em videochamada convenceu um funcionário a autorizar US$ 25 milhões em transferências fraudulentas, ilustra o novo patamar de sofisticação do golpe. A tese central do texto é que SOCs que ainda dependem de triagem manual não conseguem acompanhar esse volume, e que a resposta viável é colocar agentes de IA também do lado da defesa.
Uma revisão sistemática consolida cinco linhas de pesquisa que, de forma independente, inverteram o uso de perturbações adversariais: em vez de atacar modelos de IA, dados, criadores e plataformas as usam para proteger conteúdo visual contra reconhecimento indevido, treinamento não autorizado, edição maliciosa e automação de agentes. Os autores concluem que a maioria dessas proteções ainda é validada só contra adversários estáticos ou fracamente adaptativos, com pouca evidência fora de benchmarks controlados.