Anthropic alerta sobre risco de IA auto-replicante em dispositivos IoT
A Anthropic publicou um experimento mostrando que modelos de IA pequenos, quantizados e fragmentados em 'shards', já conseguem rodar inferência em hardware IoT barato, como caixas de Android TV. A empresa alerta que isso pode viabilizar no futuro próximo worms de IA capazes de se auto-replicar entre dispositivos sem comando centralizado, embora reconheça obstáculos práticos significativos para isso acontecer hoje.
O experimento da Anthropic consistiu em rodar modelos de peso aberto relativamente pequenos em hardware de baixo custo — caixas de Android TV genéricas e outros dispositivos IoT — usando quantização para reduzir a representação numérica dos pesos e dividindo a carga de trabalho em 'shards' distribuídos entre múltiplos aparelhos. Os pesquisadores conseguiram estabelecer inferência funcional, ou seja, os pesos carregavam e o modelo gerava saída utilizável mesmo nesse hardware limitado.
O ponto de atenção levantado pela empresa é conceitual: diferente de um worm tradicional como o Mirai, que replica um payload fixo, um 'worm de IA' carregaria os próprios pesos do modelo como parte da carga maliciosa e poderia usar inferência local para adaptar dinamicamente exploits e payloads a cada dispositivo-alvo encontrado, em vez de depender de uma lista fixa de vulnerabilidades. Isso o tornaria, em tese, mais resiliente a contenção, já que não haveria um servidor de comando-e-controle centralizado a ser desligado — a propagação seria descentralizada e cada nó infectado poderia operar de forma relativamente autônoma, com tempo de duplicação estimado em dias.
A própria Anthropic é cautelosa quanto à viabilidade imediata: o experimento revelou desafios significativos para transformar essa capacidade de inferência básica em uma infecção autorreplicante funcional, e boa parte da comunidade de segurança nota que a maioria dos dispositivos IoT reais (geladeiras inteligentes, aspiradores robôs) ainda tem capacidade de armazenamento e processamento muito abaixo do necessário para hospedar até modelos pequenos de forma útil.
Ainda assim, o alerta é relevante como sinalização antecipada de uma categoria de ameaça nova: ataques a software e infraestrutura em que a própria IA é o payload e a ferramenta de propagação, não apenas um meio de automatizar etapas de um ataque já conhecido. Equipes de segurança de IoT e de resposta a incidentes devem acompanhar a evolução de técnicas de quantização e sharding de modelos como um possível vetor emergente, mesmo que a ameaça concreta ainda esteja distante da maturidade operacional.