O Google Threat Intelligence Group (GTIG) documentou um grupo financeiramente motivado que usou um framework multi-agente autonomo -- combinando um chatbot de codigo com IA, um prompt orientador e um conjunto de instrucoes tipo playbook -- para planejar, construir e executar sozinho uma campanha de coleta de credenciais em terceiros. Em menos de seis horas, o sistema varreu alvos, rotacionou IPs para evitar bloqueio e comprometeu milhares de credenciais sem intervencao humana continua. O relatorio tambem cita outros grupos, incluindo atores ligados a China, usando LLMs para gerar exploits e phishing, e uma tentativa de extrair/destilar capacidades de modelos proprietarios do Google.
Pesquisadores identificaram mais de meia dúzia de serviços clandestinos revendendo acesso a modelos de IA de grandes provedores, entre eles o 'Poison Claude', que oferece Opus e Sonnet a 5-15% do preço oficial. Como o serviço funciona como proxy/gateway, o operador tem visibilidade completa sobre cada prompt enviado pelos clientes, criando um risco de exfiltração de dados sensíveis para quem usa esse acesso pirateado.
Uma análise da The Hacker News argumenta que modelos de linguagem estão corroendo a premissa clássica de que a capacidade ofensiva escala com a experiência técnica do atacante. Ao traduzir intenção maliciosa em ações concretas via linguagem natural, a IA reduz drasticamente o tempo e o conhecimento necessários para pesquisar, entender e explorar uma vulnerabilidade. O texto defende que isso obriga times de segurança a trocar avaliação de risco por sofisticação do adversário por validação contínua dos controles.