Você provavelmente imagina que um modelo de linguagem grande (LLM) precisa rodar na nuvem. Na verdade, rodar a IA inteiramente dentro do seu próprio PC — um "LLM local" — já é uma opção realista. Seus dados nunca saem da máquina, não há taxas de API e funciona sem internet. Modelos pequenos ocupam só alguns gigabytes, então até um notebook comum consegue rodá-los.

Este artigo explica, para iniciantes, o que é um LLM local, suas vantagens e desvantagens, as configurações de que você precisa, como começar (da instalação do Ollama com os passos oficiais até a verificação de que funciona), como escolher um modelo e quando usá-lo em vez da nuvem.

LOCAL LLM · IA QUE RODA NO SEU PRÓPRIO PC

Nada enviado à nuvem, nada cobrado

— seus dados ficam na máquina; instale uma vez, use à vontade

🔒

Privacidade

Seu input nunca é enviado a um servidor externo — seguro até para dados confidenciais.

💰

Custo zero

Sem taxas de API. Instale uma vez e é gratuito, não importa quantas vezes você use.

✈️

Offline

Funciona sem internet — no avião ou na rua, sem problema.

1. O que é um LLM local?

Um LLM local significa rodar um modelo de IA como o ChatGPT ou o Claude diretamente no seu próprio PC (ou celular) em vez da nuvem. A IA que você normalmente usa envia seu input para um servidor distante, processa lá e devolve a resposta — mas um LLM local faz todo esse processamento na máquina à sua frente.

Pense nisso como "streaming de música x download." A IA na nuvem é como reproduzir pela rede toda vez que você quer ouvir; um LLM local é como baixar a faixa no seu dispositivo para poder tocá-la offline, a qualquer momento. Depois de colocar um modelo — um arquivo de alguns gigabytes — no seu PC, você pode rodá-lo sem internet e sem taxas.

💡 Em uma frase: um LLM local é "a IA que roda inteiramente no seu PC, sem nada enviado à rede." É forte em privacidade e custo — mas não tão inteligente quanto a IA na nuvem de ponta. Entender esse trade-off é o primeiro passo.

2. Por que local? Vantagens e desvantagens

Os LLMs locais têm três grandes atrativos: privacidade, custo e uso offline. Como o input nunca sai da sua máquina, dados confidenciais são mais fáceis de lidar e não há taxas de API. Como não há cobrança por requisição, a diferença cresce quanto mais você repete o mesmo trabalho milhares de vezes.

Também há desvantagens. Vamos ser honestos sobre elas.

○ VANTAGENS
  • Os dados nunca saem da sua máquina (privacidade)
  • Uso ilimitado sem taxas extras
  • Funciona sem internet
  • Personalize modelos e configurações livremente
✕ DESVANTAGENS
  • Não tão inteligente quanto a IA na nuvem de ponta
  • Precisa de um PC razoavelmente capaz
  • Um pouco de configuração inicial
  • Sem conhecimento atualizado (apenas até o corte de treinamento)

Em resumo: "um passo atrás da vanguarda em inteligência, mas vencedor claro em privacidade, custo e offline." Para usos em que você aceita esse trade-off, um LLM local é uma opção poderosa.

3. As configurações de PC que você precisa e a quantização

"Vai rodar no meu PC?" é provavelmente a sua maior dúvida. As chaves são a memória (a RAM ou a VRAM da GPU) e a quantização.

A quantização é uma técnica de compressão que reduz a precisão numérica do modelo em troca de um tamanho muito menor. O formato padrão para uso local é o GGUF, e o Q4_K_M é o ponto de equilíbrio de referência. Dá para conferir quanto ele encolhe na lista de tags do Ollama: o Llama 3.1 8B ocupa 16 GB em 16 bits (fp16) e 4,9 GB em Q4_K_M — cerca de 30% do tamanho. Essa versão Q4_K_M é também a que o ollama run llama3.1:8b baixa (tags do llama3.1, em 30 de setembro de 2026). O Hugging Face lista 207.667 modelos em formato GGUF (filtro GGUF do Hugging Face, mesma data).

E quanto eles ocupam na prática? Estes são os tamanhos de download exibidos na biblioteca de modelos do Ollama, do menor para o maior.

Tag do Ollama Tamanho Entrada Contexto máx.
llama3.2:3b 2,0 GB Texto 128K
gemma4:e2b 4,6–7,5 GB Texto, Imagem, Áudio* 128K
llama3.1:8b 4,9 GB Texto 128K
gemma4:e4b 6,6–9,5 GB Texto, Imagem, Áudio* 128K
gemma4:12b 7,7–8,0 GB Texto, Imagem 256K
gemma4:26b 16–19 GB Texto, Imagem 256K
muse-glimmer 18 GB Texto, Imagem 128K
qwen3.8:27b 18 GB Texto, Imagem 256K
gemma4:31b 19–20 GB Texto, Imagem 256K
llama3.1:70b 43 GB Texto 128K

*Fonte: as páginas de tags da biblioteca de modelos do Ollama (em 30 de setembro de 2026). As faixas de tamanho são as exibidas na biblioteca. Áudio: a tabela da página do gemma4 o indica só para E2B e E4B (a lista de tags mostra Texto e Imagem). A linha de muse-glimmer vem da lista de tags do muse-glimmer (em 5 de outubro de 2026).

Duas dicas para ler a tabela:

  • É preciso mais memória do que o tamanho do arquivo: a tabela mostra tamanhos de arquivo. Durante a execução, soma-se a memória para o histórico da conversa (o contexto). O contexto padrão do Ollama é de 4.096 tokens, e quanto mais você o aumenta, mais memória ele consome (FAQ do Ollama).
  • Confira com ollama ps se coube na GPU: se a coluna PROCESSOR mostrar "100% GPU", o modelo inteiro está na GPU; "100% CPU" significa que está rodando na memória do sistema. Uma divisão como "48%/52% CPU/GPU" indica que parte dele transbordou (mesma FAQ). A parte que roda na CPU tende a ser mais lenta, então é o sinal para descer um tamanho de tag.

Nos Macs com Apple Silicon, a CPU e a GPU compartilham a mesma memória (memória unificada), então um Mac com bastante memória roda tags maiores na GPU com mais facilidade. Os requisitos de sistema e hardware, segundo as páginas oficiais de cada ferramenta, são estes.

Ollama LM Studio
Mac macOS 14 Sonoma ou posterior; Apple série M (CPU e GPU) ou x86 (só CPU) Apple Silicon (M1–M4), macOS 14.0 ou posterior; recomendados 16 GB de RAM ou mais (com 8 GB, modelos pequenos podem funcionar)
Windows Windows 10 22H2 ou posterior (Home ou Pro); drivers: NVIDIA 551.61 ou mais recente, AMD com suporte a ROCm v7 ou Vulkan x64 (AVX2 obrigatório) e ARM (Snapdragon X Elite); recomendados 16 GB de RAM ou mais e 4 GB de VRAM dedicada ou mais
Linux Script de instalação, além de instruções de instalação manual x64 e ARM64, Ubuntu 20.04 ou posterior (distribuído como AppImage)
Disco Windows: pelo menos 4 GB para o aplicativo; os modelos podem somar dezenas ou centenas de GB —

Fontes: documentação do Ollama para macOS e Windows, e requisitos de sistema do LM Studio (tudo em 30 de setembro de 2026).

O NPU (um componente dedicado a IA) dos notebooks recentes ainda não é usado pelo Ollama. Para saber o que o NPU faz, veja O que é NPU e se o seu PC precisa dele.

Para um primeiro teste, as tags do topo da tabela (de uns 2 a 5 GB) bastam.

Por outro lado, com ferramentas como Claude Code e Codex, que rodam o modelo em servidores, o desempenho do PC só muda o tempo dos comandos que rodam localmente e a memória disponível. O tempo que a IA leva para pensar não muda (Claude Code e Codex: as configurações de PC que você precisa).

4. Como começar — escolher a ferramenta e a primeira execução

Se quiser se aprofundar no Ollama, veja o nosso guia completo do Ollama (comandos, API e personalização).

Escolha uma das duas ferramentas de referência conforme o seu perfil.

LM Studio (para iniciantes)

Um aplicativo de desktop caprichado. Você escolhe um modelo na lista, baixa e já começa a conversar. Sem programação: a tela lembra a do ChatGPT. Se é o seu primeiro contato, comece por aqui.

Ollama (para desenvolvedores)

Uma ferramenta leve de linha de comando. Com uma única linha, ollama run gemma4, você vai do download do modelo à conversa. Também oferece uma API, ideal para quem quer integrá-lo ao próprio aplicativo.

As duas são gratuitas e rodam em Windows, Mac e Linux. Há outras também, como Jan, Open WebUI e llama.cpp. Se você prefere clicar a digitar, instale o LM Studio e baixe um modelo pequeno: é o caminho mais rápido. Se o terminal não assusta, os passos do Ollama abaixo deixam tudo rodando em minutos.

Rodando o seu primeiro modelo com o Ollama

Aqui seguimos os passos do README e da documentação oficiais do Ollama, da instalação até a verificação de que funciona (em 30 de setembro de 2026). A lista completa de comandos e os detalhes estão na seção de comandos do nosso guia do Ollama; aqui ficamos nas quatro coisas de que você precisa na primeira vez.

1. Instalar. No macOS e no Linux, rode esta linha em um terminal:

curl -fsSL https://ollama.com/install.sh | sh

No Windows, rode esta linha no PowerShell:

irm https://ollama.com/install.ps1 | iex

Se preferir não executar direto um script baixado da internet, os downloads manuais oficiais também servem (Ollama.dmg para Mac, OllamaSetup.exe para Windows e os passos de instalação manual para Linux). Para Docker, há a imagem oficial ollama/ollama (README do Ollama).

2. Rodar um modelo. Como no primeiro exemplo do README, vamos rodar o Gemma 4. Se o modelo ainda não estiver na sua máquina, ele é baixado primeiro e depois a conversa começa.

ollama run gemma4

A tag padrão do gemma4 ocupa 6,6–9,5 GB. Se a memória estiver apertada, indique uma tag menor, como ollama run gemma4:e2b ou ollama run llama3.2 (2,0 GB).

3. Verificar se está rodando. Em outro terminal, rode o comando abaixo para ver o modelo carregado e a coluna PROCESSOR (GPU ou CPU). Como visto na seção 3, o ideal é "100% GPU".

ollama ps

4. Arrumar. ollama stop gemma4 tira o modelo da memória, e ollama rm gemma4 o apaga quando você não precisar mais dele. Os modelos ficam em ~/.ollama/models no macOS, /usr/share/ollama/.ollama/models no Linux e C:\Users\%username%\.ollama\models no Windows; dá para mudar isso com a variável de ambiente OLLAMA_MODELS (FAQ do Ollama).

⚠️ Modelos com a tag ":cloud" não rodam na sua máquina: o Ollama também oferece modelos na nuvem, como o gemma4:cloud. Eles rodam na nuvem do Ollama e exigem login (documentação da nuvem do Ollama). O Ollama afirma que processa prompts e respostas para atender às suas solicitações e que não os usa para treinar modelos. Mesmo assim, se o seu objetivo é manter os dados na sua máquina, confira se a tag não termina em :cloud antes de usar.

5. Como escolher um modelo (exemplos de setembro de 2026)

Os modelos mudam rápido, então vale fixar os critérios antes dos nomes: (1) se cabe na sua memória (a tabela da seção 3), (2) se você precisa de entrada de imagem ou áudio, (3) se ele vai bem no que você precisa, como o seu idioma ou código, e (4) se ainda recebe atualizações. Nomes, tamanhos e datas de atualização podem ser conferidos na biblioteca de modelos do Ollama. Exemplos representativos em 30 de setembro de 2026:

Llama 3.1 (8B)

O modelo com mais downloads acumulados na biblioteca do Ollama (120 milhões). Com 4,9 GB, roda em PCs intermediários. Mas a última atualização foi há um ano. Para PCs com pouca memória, o Llama 3.2, que só existe em 1B (1,3 GB) e 3B (2,0 GB).

Meta Muse Glimmer (30B)

Um dos modelos de pesos abertos da Meta, pequeno e para PCs locais, lançado em agosto de 2026. É um modelo denso de 30B destilado do Muse Spark: lê texto e imagens e responde em texto. Contexto de 128K e licença Apache 2.0 (documentação da Meta). A tag padrão do Ollama, muse-glimmer, é a versão Q4_K_M de 18 GB (lista de tags, em 5 de outubro de 2026). A Meta informa que o seu próprio GGUF Q4_K_M (cerca de 17 GB) cabe em menos de 24 GB de VRAM (Get the model). O Llama 3.1 continua sendo distribuído e basta para um PC modesto, mas o modelo aberto pequeno da Meta é este. Em 15 de outubro também saiu a versão grande de 816B, o Muse Spark Open, mas os pesos têm cerca de 537 GB mesmo em 4 bits, então não rodam em um PC pessoal. No Ollama, ele só existe como tag na nuvem (muse-spark-open:cloud) (verificado em 18 de outubro de 2026).

Google Gemma 4

O modelo que o README do Ollama usa como primeiro exemplo. Vem em cinco tamanhos — E2B, E4B, 12B, 26B e 31B — e todos leem imagens. Só os pequenos E2B e E4B suportam áudio.

Alibaba Qwen3.8

Apresentado com melhorias em programação e em tarefas agênticas longas, de muitas etapas. O Ollama oferece um único tamanho, 27B (18 GB, contexto de 256K, entrada de imagem), então combina com PCs com memória de sobra.

DeepSeek, Mistral etc.

O DeepSeek-R1 tem muitos degraus, de 1.5B a 671B, e é um modelo de raciocínio que pensa antes de responder. O Mistral vem em um único tamanho, 7B. Escolha pelo uso e pela memória.

O segredo é avançar por etapas: teste uma tag menor, confirme com ollama ps que ela está na GPU e só suba um tamanho se não der conta. Assim como na nossa comparação de IAs na nuvem, o único jeito de saber se um modelo serve para o seu uso é testar.

6. Local x nuvem: quando usar cada um

Para se aprofundar nas diferenças, na distância de desempenho e em como escolher entre local e nuvem, veja nosso artigo sobre LLM local vs LLM em nuvem.

Local e nuvem não são um ou outro — a jogada inteligente é dividi-los por função.

  • O local se encaixa em: lidar com dados confidenciais, tarefas de alto volume ou repetitivas, ambientes offline e trabalho rotineiro em que você quer manter os custos baixos.
  • A nuvem se encaixa em: problemas difíceis que exigem a máxima precisão, pesquisas que precisam de informações atualizadas e programação pesada — onde os modelos de ponta como ChatGPT, Claude e Gemini brilham.

Por exemplo, "faça rascunhos, classificações e resumos localmente de graça e envie só o acabamento final ou as partes difíceis para a nuvem" funciona bem. Só lembre que "de graça" se refere às taxas de API: eletricidade e hardware continuam custando. Com pouco volume, a nuvem pode sair mais barata; qual vence depende de quanto você usa.

Resumo

Três pontos a reter sobre os LLMs locais.

  • O que é: rodar um modelo de IA no seu próprio PC. Os dados nunca saem, sem taxas de API e sem limites offline.
  • Como começar: LM Studio para iniciantes, Ollama para desenvolvedores (instale com o script oficial, rode ollama run e confira com ollama ps se está na GPU). Comece com uma tag pequena, de uns 2–5 GB. A quantização (Q4_K_M) deixa o modelo com cerca de 30% do tamanho em fp16.
  • Quando usar: a nuvem é mais inteligente. Use o local para trabalho confidencial, de alto volume e offline, e a nuvem para problemas difíceis — combinar os dois é o melhor.

Comece instalando o LM Studio e rodando um modelo pequeno. A experiência de "a IA conversando inteiramente dentro do seu próprio PC" é mais revigorante do que você esperaria. Se quiser entender a mecânica, veja também como os LLMs funcionam.

FAQ

P. Vai rodar em um notebook comum?

R. Modelos pequenos, sim. Na biblioteca do Ollama, o llama3.2:3b ocupa 2,0 GB e o llama3.1:8b, 4,9 GB (em 30 de setembro de 2026); durante a execução, soma-se a memória do contexto. O LM Studio recomenda oficialmente 16 GB de RAM ou mais. Comece com uma tag pequena, confira com ollama ps se está na GPU e depois aumente o tamanho.

P. Um LLM local é mais inteligente que o ChatGPT?

R. Na máxima precisão, as IAs na nuvem de ponta (os modelos mais avançados do ChatGPT e do Claude) estão à frente. A força de um LLM local não é a inteligência bruta, mas a privacidade, o custo e o uso offline. Para o propósito certo, é bastante prático.

P. É completamente gratuito?

R. As ferramentas e os modelos abertos são gratuitos, e não há taxas de API. Você paga apenas a eletricidade e, se necessário, o custo inicial de um PC ou GPU. Quanto mais você usa, mais barata fica cada execução. Atenção: os modelos do Ollama com a tag :cloud rodam na nuvem do Ollama, o que é diferente de rodar localmente na sua máquina.

P. Quanta qualidade se perde com a quantização?

R. O arquivo fica com cerca de 30% do tamanho em fp16 (de 16 GB para 4,9 GB no Llama 3.1 8B). Quanto a qualidade cai depende do modelo e da tarefa, então comece com o Q4_K_M (a versão que o llama3.1:8b baixa) e, na dúvida, compare as respostas com a versão q8_0 do mesmo modelo (8,5 GB no Llama 3.1 8B).