Pesquisa mostra que LLMs de busca na web são manipuláveis por vazios de dados preenchidos por desinformadores
O estudo descreve o ataque de vazio de dados: atacantes publicam narrativas falsas em nichos de busca onde há pouco conteúdo confiável disponível, apostando que LLMs com busca na web vão recuperar e citar justamente esse conteúdo ao responder perguntas sobre o tema. Em testes com ChatGPT, Gemini e Sonar Pro, o conteúdo do atacante apareceu nas respostas em 31% dos casos, usando uma única página controlada pelo atacante, com pouca proteção vinda do tom da pergunta ou da escolha do modelo.
Fonte ↗