Índice

Fazer um modelo que roda no seu próprio PC escrever código. Isso já era possível há alguns anos, mas o que dava para fazer era autocompletar — preencher a continuação de uma linha começada, e nada além disso. O uso em modo agente, "ler o repositório, alterar vários arquivos e rodar os testes", era pesado demais para uma máquina local.

Esse quadro se mexeu entre o fim de 2025 e 2026. Este artigo organiza, usando apenas fontes primárias, até onde dá para chegar hoje e onde as coisas travam. Adiantando a conclusão: funciona. Só que existe um portão — se você não mudar uma única configuração, tudo quebra em silêncio.

📌 Sobre os números deste artigo: os benchmarks e as especificações dos modelos vêm todos dos anúncios dos próprios desenvolvedores (Mistral AI oficial, model cards oficiais da Qwen, documentação oficial do Ollama, documentação oficial do Cline e material oficial da Anthropic). Nada foi copiado de artigos-resumo de terceiros — durante a pesquisa, encontrei vários casos em que esses resumos trocavam a pontuação de um modelo pela de outro tamanho.

1. O que mudou — os modelos abertos alcançaram o modo agente

O sinal mais claro da mudança é que os próprios desenvolvedores dos modelos passaram a vender "programação em modo agente" como argumento.

O model card oficial da Qwen diz que o modelo "suporta a maioria das plataformas, como Qwen Code e CLINE, e traz um formato de function call projetado especificamente para isso", ou seja, cita as extensões de editor pelo nome (Qwen3-Coder-30B-A3B-Instruct model card). O modelo foi feito tendo em mente um agente de programação específico.

A Mistral AI segue na mesma direção. O Devstral 2, anunciado em 9 de dezembro de 2025, é um modelo dedicado que assume explicitamente a "programação em modo agente", e a empresa publicou o menor da família, o Devstral Small 2 (24B), sob Apache 2.0 (Introducing: Devstral 2 and Mistral Vibe CLI).

Quando só havia autocompletar

Preencher a continuação de uma linha começada. Um modelo pequeno dá conta e o contexto pode ser curto. Rodava sem esforço em máquina local

Quando vira modo agente

Passa a exigir emitir chamadas de ferramenta com precisão e sustentar um contexto longo. Surgiram modelos abertos que chegam a esse patamar

2. Existem dois tipos de ferramenta — Continue e Cline são coisas diferentes

Começar confundindo os dois faz a expectativa não bater com o resultado. Ambos são extensões do VS Code e ambos conectam ao Ollama, mas a filosofia de projeto é completamente distinta.

　 Continue Cline
Perfil Um conjunto de autocompletar, chat e edição Um agente de programação que age de forma autônoma
Divisão de papéis Atribui um modelo diferente para cada papel — chat / edit / apply / rerank / autocomplete Um único modelo vai do planejamento à execução
Exigência de hardware Baixa. Para autocompletar, um modelo de poucos GB basta Alta. Exige contexto longo e chamadas de ferramenta precisas
Uso mais adequado Ganhar velocidade enquanto você escreve Delegar a tarefa inteira

O desenho do Continue, de "um modelo por papel", combina bem com o uso local. Você pode usar um modelo pequeno e rápido para autocompletar e um modelo grande para o chat. O guia oficial do Ollama também cita pelo nome modelos leves para autocompletar, como qwen2.5-coder:1.5b e starcoder2:3b (Continue — Ollama guide).

⚠️ Só que os modelos recomendados na documentação oficial às vezes estão desatualizados. Para chat, esse mesmo guia sugere llama3.1:8b e deepseek-r1:32b, que são de uma geração bem anterior ao que dá para escolher hoje. O passo a passo da documentação continua válido, mas não engula os nomes dos modelos como estão: refaça a escolha com a seção "4. Escolhendo o modelo" mais adiante.

3. A primeira armadilha — o tamanho do contexto é decidido pela VRAM

Este é o capítulo mais importante do artigo. Sem saber disso, você cai naquele estado em que "a instalação deu certo, mas o agente começa a agir de um jeito incompreensível no meio do caminho". E o pior: não aparece nenhum erro.

A causa é o tamanho de contexto padrão do Ollama. Não é um valor fixo: ele é decidido automaticamente pela quantidade de VRAM (Ollama — Context length).

VRAM Tamanho de contexto padrão
Menos de 24 GiB 4k
De 24 a 48 GiB 32k
48 GiB ou mais 256k

Um PC gamer comum (VRAM de 8 a 16 GB) cai na primeira linha. Ou seja, 4k. O agente ultrapassa isso com folga no vaivém entre prompt de sistema, conteúdo dos arquivos e chamadas de ferramenta, então o início da conversa vai sendo cortado em silêncio. Esquecer instruções, repetir a mesma operação, perder o objetivo no meio do caminho — a causa não é burrice do modelo, e sim o contexto ser descartado logo na porta de entrada.

A documentação oficial do Ollama é explícita sobre esse uso: "para trabalhos exigentes, como busca na web e ferramentas de programação, defina o contexto para pelo menos 64000 tokens". A configuração é feita por uma variável de ambiente na hora de subir o servidor.

OLLAMA_CONTEXT_LENGTH=64000 ollama serve

Se você usa a versão em aplicativo, dá para mudar pelo controle deslizante na tela de configurações.

⚠️ Só que não basta aumentar e pronto. A própria documentação avisa: "aumentar o tamanho do contexto aumenta a quantidade de memória necessária para executar o modelo".

Quando o modelo deixa de caber na VRAM, parte dele é empurrada para a CPU e tudo fica dramaticamente mais lento. Para saber se a mudança realmente pegou, use ollama ps — é o que a documentação oficial orienta. É ali que você vê se o modelo coube inteiro na GPU.

O Cline também tem respostas para o mesmo problema. A documentação oficial recomenda "ativar o Use Compact Prompt" e "manter as tarefas enxutas (quanto menor o contexto, mais rápida a resposta)" (Cline — Running models locally). Como o próprio prompt de sistema do agente é longo, existe uma configuração dedicada a encolhê-lo.

4. Escolhendo o modelo — a resposta realista para cada faixa de VRAM

É melhor não confiar nas recomendações de artigos-resumo. No que pesquisei, havia textos apontando modelos de meados de 2025 como "a recomendação para 2026" e outros que colocavam a pontuação de um modelo de 480B na coluna de um modelo de 30B. Aqui vão apenas os anúncios dos desenvolvedores.

Modelo Porte Contexto Licença SWE-bench Verified
Qwen3.6-35B-A3B 35B (3B ativos) 262,144 (máximo 1,010,000) Apache 2.0 73.4
Devstral Small 2 24B 256K Apache 2.0 68.0%
Devstral 2 (referência, grande demais) 123B 256K Modified MIT 72.2%

Fontes: model card do Qwen3.6-35B-A3B (Terminal-Bench 2.0 51.5 e QwenClawBench 52.6) e anúncio oficial da Mistral AI (9 de dezembro de 2025). As pontuações foram medidas por cada empresa em seus próprios testes, não em uma medição comparativa feita por terceiros.

O que chama atenção no Qwen3.6-35B-A3B é o "3B ativos". Dos 35B, só 3B realmente entram em ação a cada passo, e é aí que o MoE (Mixture of Experts) faz efeito. É uma estrutura que busca ao mesmo tempo a esperteza de um modelo grande e a velocidade de um pequeno, um desenho que cai bem no uso local.

Tamanho de download e requisitos

Na biblioteca do Ollama, o qwen3.6 aparece com 27b (18GB) e 35b (23GB). Também existem tags com -mlx, voltadas ao Mac.

A referência de memória indicada pela documentação oficial do Cline é esta: de 16 a 32GB para modelos pequenos, de 32 a 64GB para modelos de programação de porte médio e 64GB ou mais para modelos grandes com contextos maiores.

VRAM de 8 a 12GB

Limite-se ao autocompletar com o Continue. Desista do modo agente ou combine com a nuvem

VRAM de 16 a 24GB

O Devstral Small 2 (24B) entra no alcance. Como é preciso deixar folga para aumentar o contexto, a quantização é obrigatória

VRAM de 24GB ou mais / memória unificada de 32GB ou mais

O qwen3.6 em 27b/35b é realista. O contexto padrão também sobe para 32k

A Mistral escreve que o Devstral Small 2 "roda em GPUs de consumo e até em configurações somente com CPU". Mas vale guardar que "rodar" e "rodar rápido o bastante para servir como agente" são coisas diferentes.

5. Configuração — o caminho mais curto

① Instale o Ollama e defina o contexto

A ordem importa. Decida o tamanho do contexto antes de baixar o modelo.

OLLAMA_CONTEXT_LENGTH=64000 ollama serve

O procedimento de instalação em si está no guia completo do Ollama, então consulte aquele artigo.

② Baixe o modelo

ollama pull qwen3.6:27b

Se a VRAM estiver apertada, escolha o Devstral Small 2. O fato de ambos terem sido construídos com o modo agente em mente é o que os separa de um modelo de chat genérico.

③ Confirme que ele está na GPU

ollama ps

Não pule essa verificação. Se parte do modelo foi empurrada para a CPU, a sensação de uso é outra completamente. Boa parte da impressão de que "LLM local é lento demais para usar" tem exatamente essa origem.

④ Conecte a extensão

Tanto no Cline quanto no Continue, escolha o Ollama como provedor e aponte para http://localhost:11434. O aviso da documentação oficial do Cline é modesto — "confirme que o Ollama está em execução antes de enviar um prompt" — e não é preciso nenhuma configuração especial.

Se for usar o Cline, aproveite e ative o Use Compact Prompt.

6. A distância até a nuvem ficou, na verdade, difícil de medir

Aqui prefiro ser honesto. A comparação do tipo "o modelo local já chegou a X% da nuvem" não dá para fazer de forma limpa hoje. O motivo é que os benchmarks deixaram de coincidir.

Do lado dos modelos abertos, publica-se o SWE-bench Verified. O Qwen3.6-35B-A3B marca 73.4 e o Devstral Small 2, 68.0%. Já o lado da fronteira está se afastando desse indicador.

Na prática, o anúncio do Claude Opus 5 pela Anthropic não traz o número do SWE-bench Verified. O que aparece é Frontier-Bench v0.1, CursorBench 3.2, AA Coding Agent Index e FrontierCode 1.1 — e, em boa parte, em formulações relativas em vez de valores absolutos ("mais que o dobro do desempenho do Opus 4.8", "dentro de 0.5% da pontuação máxima do Fable 5" e assim por diante).

⚠️ Por isso, desconfie quando vir um número do tipo "o local está a X% do Claude". É provável que os dois lados não tenham sido medidos com o mesmo indicador ou que a comparação seja com um Claude de várias gerações atrás. Hoje, o SWE-bench Verified só permite alinhar, mais ou menos, modelos abertos entre si.

As diferenças que ainda dá para afirmar

Mesmo sem números comparáveis, os pontos em que a diferença aparece por estrutura são bem claros.

Onde o local leva vantagem

O código não sai da máquina, não há cobrança por uso (dá para repetir sem contar as vezes), funciona offline, sem limite de requisições

Onde a nuvem leva vantagem

Raciocínio que atravessa vários arquivos, estabilidade em execuções autônomas longas, nenhum investimento inicial, o modelo se moderniza sozinho

Há um motivo para a diferença aparecer justamente no "raciocínio que atravessa vários arquivos". É a etapa que consome muito contexto e empilha dezenas de decisões. Uma pequena diferença de precisão por decisão se multiplica a cada ida e volta. O que passa despercebido ao ajustar um único arquivo vira sensação concreta em um trabalho no tamanho de um repositório.

7. "Local é de graça" é verdade?

É fato que não chega uma fatura de API, mas não é de graça. O que muda é apenas a forma do custo.

Item Local Nuvem
Custo inicial GPU com bastante VRAM / memória unificada de alta capacidade Nenhum
Custo que cresce com o uso Só a conta de luz Cobrança por token ou assinatura
Custo pouco visível Trabalho de configurar e manter, acompanhar as atualizações dos modelos Nenhum (fica com o provedor)

Por isso, "qual é mais barato" se inverte conforme as condições da comparação. Se você já tem uma GPU da classe de 24GB, o local roda com custo adicional praticamente zero. Se não tem, o preço dessa GPU compra vários anos de assinatura. É mais correto pensar que a resposta muda por dois pontos: "você roda muita coisa todos os dias?" e "você já tem o equipamento?".

8. Conclusão: quando usar cada um

Motivos válidos para escolher o local

O código não pode sair da empresa (contrato ou política interna), o equipamento já existe, querer experimentar sem contar quantas vezes rodou, trabalhar offline

Motivos que não se sustentam

"Porque é de graça" (não contou o custo do equipamento), "porque parece rápido" (na maioria das vezes a nuvem é mais rápida)

O mais realista é usar os dois. Deixe o autocompletar do Continue com um modelo pequeno local rodando o tempo todo e entregue os trabalhos maiores a um agente na nuvem. O autocompletar acontece muitas vezes e cada chamada é leve, o que combina com o local; o agente é acionado poucas vezes e cada execução é pesada, o que combina com a nuvem — os perfis de carga são exatamente opostos.

Resumo

  • Os modelos abertos alcançaram a programação em modo agente. Tanto a Qwen quanto a Mistral lançaram modelos dedicados que citam extensões de editor pelo nome
  • O maior portão é o contexto padrão do Ollama. Com menos de 24 GiB de VRAM ele fica em 4k, e o agente quebra em silêncio. A recomendação oficial é 64000 ou mais para uso em programação
  • Depois de aumentar, confirme com ollama ps se o modelo está na GPU. Empurrado para a CPU, ele fica lento de um jeito irreconhecível
  • Continue e Cline são coisas diferentes. O primeiro atribui um modelo por papel e foca em autocompletar; o segundo é um agente autônomo. As exigências de hardware não são as mesmas
  • A comparação "X% da nuvem" ficou difícil de sustentar. O lado da fronteira está deixando de publicar o SWE-bench Verified
  • Não é "de graça", é "outro formato de custo". A resposta se inverte conforme você já tenha ou não o equipamento

FAQ

Q1. Dá para usar o modo agente com uma GPU de 8GB de VRAM?

É difícil. Mesmo que o modelo caiba, não sobra folga para aumentar o contexto. O padrão do Ollama com menos de 24 GiB de VRAM é 4k, e subir esse valor para 64000 aumenta a memória necessária — conciliar as duas coisas em 8GB é complicado. O realista é limitar-se ao autocompletar com o Continue ou combinar as duas abordagens, deixando só o autocompletar local e o agente na nuvem.

Q2. Cline ou Continue, por qual devo começar?

Se é a sua primeira vez com LLM local, Continue. Porque ele exige menos hardware e é mais fácil isolar o problema quando algo não funciona. Confirmar que o autocompletar roda confortavelmente antes de partir para o modo agente permite separar o que é problema do modelo do que é problema de configuração.

Q3. Funciona no Mac?

Funciona. Como a memória unificada é usada diretamente no lugar da VRAM, fica até mais fácil carregar modelos grandes. A biblioteca do Ollama também traz tags com -mlx do qwen3.6, voltadas ao Apple Silicon. Mas a regra de que o contexto padrão é decidido pela quantidade de memória vale igualmente, então a verificação continua necessária.

Q4. Qual modelo é "o mais inteligente"?

Só pelas pontuações publicadas, entre os citados neste artigo o mais alto é o SWE-bench Verified 73.4 do Qwen3.6-35B-A3B. Só que se trata de medições feitas por cada empresa, e não de uma comparação lado a lado por terceiros. Na prática, a licença (Devstral Small 2 e Qwen3.6 são ambos Apache 2.0) e o fato de caber na sua VRAM pesam mais.

Q5. Por que ele "quebra sem dar erro"?

Porque o que ultrapassa o tamanho do contexto é tratado como corte, não como erro. O modelo responde normalmente dentro do "trecho que recebeu". O resultado aparece na forma de esquecer instruções, repetir a mesma operação e perder o objetivo, e parece incapacidade do modelo. Saber que esse é um sintoma de configuração muda completamente a velocidade do diagnóstico.

Q6. Qual quantização devo escolher?

Na dúvida, começar pelo equivalente a Q4_K_M é o mais seguro. As diferenças entre formatos (GGUF / GPTQ / AWQ) e como escolher estão reunidas no guia completo de formatos de quantização. Para programação, "um modelo um pouco menor com quantização mais leve" costuma ser mais estável do que "um modelo maior fortemente quantizado" — porque é preciso respeitar com precisão o formato das chamadas de ferramenta.

Q7. Posso usar com o código da minha empresa?

Enquanto tudo se resolve localmente, o código não sai da máquina — essa é a maior vantagem do LLM local. Mas confira as configurações da extensão. Mesmo com o provedor apontado para o Ollama, telemetria ou outros recursos podem se comunicar com o exterior. E "se a política interna permite" é um problema separado do técnico, então verifique as normas da sua empresa antes.

Artigos relacionados