Rodar IA local de verdade ainda dói no notebook

RTX Spark N1X chega com uma promessa que todo desenvolvedor já ouviu antes e quase nunca se cumpre: notebook fino, silencioso, com memória suficiente para rodar modelo local parrudo sem depender da nuvem. Depois de uma semana de testes intensos com cinco máquinas diferentes, a sensação é estranha. É potente de verdade, dá para sentir o salto, mas o preço e as arestas do Windows on Arm ainda mordem. É aquele tipo de hardware que empolga no benchmark e faz você abrir a calculadora logo depois.

O fato sem rodeio

A Nvidia colocou no mercado seu primeiro superchip Arm para notebooks e mini desktops, o RTX Spark N1X. São 20 núcleos de CPU e 6.144 núcleos CUDA com arquitetura Blackwell na versão topo, além de memória unificada que pode chegar a 128GB no Surface Laptop Ultra e no Asus ProArt P16. Na prática, é a Nvidia tentando fazer com Windows o que a Apple fez com a linha M: unir CPU, GPU e memória num pacote só, com foco total em IA local, criação de conteúdo e, de quebra, games com DLSS 5.

Os modelos testados não são nada acessíveis. O HP OmniBook Ultra com 32GB começa em 3.199 dólares, o Lenovo Yoga 9n 2 em 1 com 64GB passa disso, o Asus ProArt P16 com 64GB já escala forte e a versão com 128GB bate 6.999 dólares. Existe uma versão cortada com 18 núcleos e 5.120 CUDA que baixa para 2.599 dólares no Surface Laptop Ultra e no ProArt P14 com 24GB, mas ainda é território premium. São máquinas para desenvolvedor, engenheiro de ML, editor de vídeo e 3D, não para estudante ou uso geral de escritório.

Como funciona na visão de quem opera

Pensa no N1X como um SoC Arm de alto desempenho com memória unificada de alta largura de banda, acessível tanto pela CPU quanto pela GPU. Isso muda tudo para IA local. Em vez de ficar copiando pesos entre RAM do sistema e VRAM da GPU, o que mata a latência e limita o tamanho do modelo, o modelo mora num pool só. Com 128GB unificados você consegue carregar modelos de 70B quantizados em 4 bits com folga para sistema e apps, algo impensável num notebook GeForce tradicional com 8GB ou 16GB de VRAM. Com 64GB dá para brincar bem com 32B e 14B com janela grande. Com 32GB, o uso fica mais restrito a 7B e 13B, RAG local e copilotos de código.

Na inferência, o ganho provável não é só tokens por segundo, é constância. A arquitetura Blackwell traz Tensor Cores de nova geração e suporte a FP4, o que deve ajudar muito em modelos otimizados. Ainda não há números públicos consistentes de throughput com llama.cpp, Ollama ou TensorRT-LLM nesses notebooks, então trate qualquer promessa com cautela. Pela lógica da arquitetura, espere algo na casa de dezenas de tokens por segundo em modelos médios, com latência de primeiro token bem menor que qualquer chamada de API na nuvem, porque não há round trip de rede. O custo aqui vira CAPEX: você paga caro uma vez no hardware para zerar o custo por token depois, em troca de gerenciar calor, bateria e drivers.

Windows on Arm finalmente dá para usar?

Esse era meu maior medo e, surpreendentemente, foi o menor problema. O Windows on Arm amadureceu muito depois do empurrão dos Snapdragon X. Photoshop e Premiere já têm versão nativa, Lightroom Classic roda via emulação Prism sem engasgos perceptíveis para a maioria dos fluxos e apps do dia a dia como Slack, Discord, Signal, CapCut e Audacity funcionam sem você precisar pensar se é Arm ou x86. Nos testes, tudo abriu, só com aquele atraso ocasional no primeiro load e um bug ou outro de modo escuro ou app que precisa de segunda tentativa. Para quem vive de terminal, browser, VS Code e Adobe, já dá para encarar como máquina principal.

Games e IA são onde a conta aparece. DLSS 5 ajuda e quando o jogo roda, roda bem para um integrado, mas compatibilidade em Windows on Arm para jogos ainda é loteria por causa de anticheats e binários x86 antigos. Em IA, falta polimento no stack: drivers, CUDA on Arm, suporte em frameworks e ferramentas de profiling ainda estão em fase de ajuste. Não está quebrado, mas exige paciência de early adopter. Se você precisa que tudo funcione no dia um sem gambiarra, ainda não é sua hora.

O que isso muda na prática

Quem ganha agora é o desenvolvedor que prototipa com modelo local, o criador que edita vídeo 4K e 8K com aceleração RTX e o time que precisa de privacidade total dos dados sem mandar prompt para nuvem. Para laboratório, edge, demonstração em cliente sem internet e avaliação de modelo open weight, um notebook com 64GB ou 128GB unificados vira uma estação portátil que antes exigia desktop com GPU cara. Quem perde, por enquanto, é quem esperava preço de MacBook Air com poder de workstation. Também perde quem vive de software x86 de nicho com driver antigo de kernel, porque aí a emulação não salva.

  • Se você cogita comprar, faça antes o dever de casa: liste os 3 modelos que você roda hoje no Ollama ou LM Studio, anote quantização e tamanho de contexto, e simule a necessidade de memória com margem de 20 por cento para sistema. Se couber em 64GB, não pague o imposto dos 128GB.
  • Para times, vale mais alugar uma semana de nuvem para validar throughput e qualidade do modelo quantizado antes de imobilizar 4 mil dólares por máquina. Meça tokens por segundo, latência de primeiro token e consumo em carga real, não em benchmark sintético.

A ação mais sensata hoje não é trocar o parque inteiro. É pegar uma unidade para o perfil certo, geralmente o engenheiro de IA ou o editor sênior, padronizar o ambiente com WSL, Docker e TensorRT-LLM, e documentar o que quebra no Windows on Arm. Em duas semanas você descobre se o ganho de produtividade paga o hardware ou se um desktop com RTX dedicada mais notebook leve continua mais barato. Esse teste pequeno evita um erro de compra de dezenas de milhares de dólares.

A tensão que ninguém quer admitir

Aqui está o incômodo: isso resolve ou só move o gargalo do lugar? Você elimina a conta da API e a latência de rede, mas cria um CAPEX brutal e uma dependência nova de um ecossistema Arm no Windows que ainda está em construção. Pagar 3.200 a 7 mil dólares num notebook para rodar modelo local faz sentido se você gera valor direto com isso todos os dias. Para uso esporádico, a nuvem continua imbatível em custo por experimento. E tem o elefante na sala: a Apple já entrega eficiência e bateria absurdas por menos, com stack de ML mais maduro para criadores, enquanto AMD e Intel avançam rápido em NPU e iGPU.

Tem também a questão de escala e calor. SoC unificado é ótimo até certo ponto, depois a banda de memória vira teto e a dissipação num chassi fino limita a sustentação de clock. Para treino, esquece. Para fine tuning leve com LoRA e inferência pesada, funciona, mas um desktop dedicado ainda entrega mais por dólar. A Nvidia está claramente mirando o topo para criar referência, não volume. A pergunta é se vai existir um N1 de 1.500 dólares no ano que vem para popularizar, ou se isso vai virar nicho de workstation portátil para poucos.

Veredito de operador

RTX Spark N1X é superchip de verdade em engenharia e ainda não em preço e ecossistema. Se seu trabalho é IA local, privacidade e criação pesada no Windows, vale testar com planilha aberta. Para todo o resto, observe de longe mais um ciclo. Será que a Nvidia vai bancar o custo de otimizar o stack CUDA on Arm até ele sumir no dia a dia, ou vai deixar esse trabalho para a Microsoft e as fabricantes?