Índice
Você provavelmente imagina que um modelo de linguagem grande (LLM) precisa rodar na nuvem. Na verdade, rodar a IA inteiramente dentro do seu próprio PC — um "LLM local" — já é uma opção realista. Seus dados nunca saem da máquina, não há taxas de API e funciona sem internet. Modelos pequenos ocupam só alguns gigabytes, então até um notebook comum consegue rodá-los.
Este artigo explica, para iniciantes, o que é um LLM local, suas vantagens e desvantagens, as configurações de que você precisa, como começar (da instalação do Ollama com os passos oficiais até a verificação de que funciona), como escolher um modelo e quando usá-lo em vez da nuvem.
Nada enviado à nuvem, nada cobrado
— seus dados ficam na máquina; instale uma vez, use à vontade
Privacidade
Seu input nunca é enviado a um servidor externo — seguro até para dados confidenciais.
Custo zero
Sem taxas de API. Instale uma vez e é gratuito, não importa quantas vezes você use.
Offline
Funciona sem internet — no avião ou na rua, sem problema.
1. O que é um LLM local?
Um LLM local significa rodar um modelo de IA como o ChatGPT ou o Claude diretamente no seu próprio PC (ou celular) em vez da nuvem. A IA que você normalmente usa envia seu input para um servidor distante, processa lá e devolve a resposta — mas um LLM local faz todo esse processamento na máquina à sua frente.
Pense nisso como "streaming de música x download." A IA na nuvem é como reproduzir pela rede toda vez que você quer ouvir; um LLM local é como baixar a faixa no seu dispositivo para poder tocá-la offline, a qualquer momento. Depois de colocar um modelo — um arquivo de alguns gigabytes — no seu PC, você pode rodá-lo sem internet e sem taxas.
💡 Em uma frase: um LLM local é "a IA que roda inteiramente no seu PC, sem nada enviado à rede." É forte em privacidade e custo — mas não tão inteligente quanto a IA na nuvem de ponta. Entender esse trade-off é o primeiro passo.
2. Por que local? Vantagens e desvantagens
Os LLMs locais têm três grandes atrativos: privacidade, custo e uso offline. Como o input nunca sai da sua máquina, dados confidenciais são mais fáceis de lidar e não há taxas de API. Como não há cobrança por requisição, a diferença cresce quanto mais você repete o mesmo trabalho milhares de vezes.
Também há desvantagens. Vamos ser honestos sobre elas.
- Os dados nunca saem da sua máquina (privacidade)
- Uso ilimitado sem taxas extras
- Funciona sem internet
- Personalize modelos e configurações livremente
- Não tão inteligente quanto a IA na nuvem de ponta
- Precisa de um PC razoavelmente capaz
- Um pouco de configuração inicial
- Sem conhecimento atualizado (apenas até o corte de treinamento)
Em resumo: "um passo atrás da vanguarda em inteligência, mas vencedor claro em privacidade, custo e offline." Para usos em que você aceita esse trade-off, um LLM local é uma opção poderosa.
3. As configurações de PC que você precisa e a quantização
"Vai rodar no meu PC?" é provavelmente a sua maior dúvida. As chaves são a memória (a RAM ou a VRAM da GPU) e a quantização.
A quantização é uma técnica de compressão que reduz a precisão numérica do modelo em troca de um tamanho muito menor. O formato padrão para uso local é o GGUF, e o Q4_K_M é o ponto de equilíbrio de referência. Dá para conferir quanto ele encolhe na lista de tags do Ollama: o Llama 3.1 8B ocupa 16 GB em 16 bits (fp16) e 4,9 GB em Q4_K_M — cerca de 30% do tamanho. Essa versão Q4_K_M é também a que o ollama run llama3.1:8b baixa (tags do llama3.1, em 30 de setembro de 2026). O Hugging Face lista 207.667 modelos em formato GGUF (filtro GGUF do Hugging Face, mesma data).
E quanto eles ocupam na prática? Estes são os tamanhos de download exibidos na biblioteca de modelos do Ollama, do menor para o maior.
| Tag do Ollama | Tamanho | Entrada | Contexto máx. |
|---|---|---|---|
llama3.2:3b |
2,0 GB | Texto | 128K |
gemma4:e2b |
4,6–7,5 GB | Texto, Imagem, Áudio* | 128K |
llama3.1:8b |
4,9 GB | Texto | 128K |
gemma4:e4b |
6,6–9,5 GB | Texto, Imagem, Áudio* | 128K |
gemma4:12b |
7,7–8,0 GB | Texto, Imagem | 256K |
gemma4:26b |
16–19 GB | Texto, Imagem | 256K |
muse-glimmer |
18 GB | Texto, Imagem | 128K |
qwen3.8:27b |
18 GB | Texto, Imagem | 256K |
gemma4:31b |
19–20 GB | Texto, Imagem | 256K |
llama3.1:70b |
43 GB | Texto | 128K |
*Fonte: as páginas de tags da biblioteca de modelos do Ollama (em 30 de setembro de 2026). As faixas de tamanho são as exibidas na biblioteca. Áudio: a tabela da página do gemma4 o indica só para E2B e E4B (a lista de tags mostra Texto e Imagem). A linha de muse-glimmer vem da lista de tags do muse-glimmer (em 5 de outubro de 2026).
Duas dicas para ler a tabela:
- É preciso mais memória do que o tamanho do arquivo: a tabela mostra tamanhos de arquivo. Durante a execução, soma-se a memória para o histórico da conversa (o contexto). O contexto padrão do Ollama é de 4.096 tokens, e quanto mais você o aumenta, mais memória ele consome (FAQ do Ollama).
- Confira com
ollama psse coube na GPU: se a coluna PROCESSOR mostrar "100% GPU", o modelo inteiro está na GPU; "100% CPU" significa que está rodando na memória do sistema. Uma divisão como "48%/52% CPU/GPU" indica que parte dele transbordou (mesma FAQ). A parte que roda na CPU tende a ser mais lenta, então é o sinal para descer um tamanho de tag.
Nos Macs com Apple Silicon, a CPU e a GPU compartilham a mesma memória (memória unificada), então um Mac com bastante memória roda tags maiores na GPU com mais facilidade. Os requisitos de sistema e hardware, segundo as páginas oficiais de cada ferramenta, são estes.
| Ollama | LM Studio | |
|---|---|---|
| Mac | macOS 14 Sonoma ou posterior; Apple série M (CPU e GPU) ou x86 (só CPU) | Apple Silicon (M1–M4), macOS 14.0 ou posterior; recomendados 16 GB de RAM ou mais (com 8 GB, modelos pequenos podem funcionar) |
| Windows | Windows 10 22H2 ou posterior (Home ou Pro); drivers: NVIDIA 551.61 ou mais recente, AMD com suporte a ROCm v7 ou Vulkan | x64 (AVX2 obrigatório) e ARM (Snapdragon X Elite); recomendados 16 GB de RAM ou mais e 4 GB de VRAM dedicada ou mais |
| Linux | Script de instalação, além de instruções de instalação manual | x64 e ARM64, Ubuntu 20.04 ou posterior (distribuído como AppImage) |
| Disco | Windows: pelo menos 4 GB para o aplicativo; os modelos podem somar dezenas ou centenas de GB | — |
Fontes: documentação do Ollama para macOS e Windows, e requisitos de sistema do LM Studio (tudo em 30 de setembro de 2026).
O NPU (um componente dedicado a IA) dos notebooks recentes ainda não é usado pelo Ollama. Para saber o que o NPU faz, veja O que é NPU e se o seu PC precisa dele.
Para um primeiro teste, as tags do topo da tabela (de uns 2 a 5 GB) bastam.
Por outro lado, com ferramentas como Claude Code e Codex, que rodam o modelo em servidores, o desempenho do PC só muda o tempo dos comandos que rodam localmente e a memória disponível. O tempo que a IA leva para pensar não muda (Claude Code e Codex: as configurações de PC que você precisa).
4. Como começar — escolher a ferramenta e a primeira execução
Se quiser se aprofundar no Ollama, veja o nosso guia completo do Ollama (comandos, API e personalização).
Escolha uma das duas ferramentas de referência conforme o seu perfil.
LM Studio (para iniciantes)
Um aplicativo de desktop caprichado. Você escolhe um modelo na lista, baixa e já começa a conversar. Sem programação: a tela lembra a do ChatGPT. Se é o seu primeiro contato, comece por aqui.
Ollama (para desenvolvedores)
Uma ferramenta leve de linha de comando. Com uma única linha, ollama run gemma4, você vai do download do modelo à conversa. Também oferece uma API, ideal para quem quer integrá-lo ao próprio aplicativo.
As duas são gratuitas e rodam em Windows, Mac e Linux. Há outras também, como Jan, Open WebUI e llama.cpp. Se você prefere clicar a digitar, instale o LM Studio e baixe um modelo pequeno: é o caminho mais rápido. Se o terminal não assusta, os passos do Ollama abaixo deixam tudo rodando em minutos.
Rodando o seu primeiro modelo com o Ollama
Aqui seguimos os passos do README e da documentação oficiais do Ollama, da instalação até a verificação de que funciona (em 30 de setembro de 2026). A lista completa de comandos e os detalhes estão na seção de comandos do nosso guia do Ollama; aqui ficamos nas quatro coisas de que você precisa na primeira vez.
1. Instalar. No macOS e no Linux, rode esta linha em um terminal:
curl -fsSL https://ollama.com/install.sh | sh
No Windows, rode esta linha no PowerShell:
irm https://ollama.com/install.ps1 | iex
Se preferir não executar direto um script baixado da internet, os downloads manuais oficiais também servem (Ollama.dmg para Mac, OllamaSetup.exe para Windows e os passos de instalação manual para Linux). Para Docker, há a imagem oficial ollama/ollama (README do Ollama).
2. Rodar um modelo. Como no primeiro exemplo do README, vamos rodar o Gemma 4. Se o modelo ainda não estiver na sua máquina, ele é baixado primeiro e depois a conversa começa.
ollama run gemma4
A tag padrão do gemma4 ocupa 6,6–9,5 GB. Se a memória estiver apertada, indique uma tag menor, como ollama run gemma4:e2b ou ollama run llama3.2 (2,0 GB).
3. Verificar se está rodando. Em outro terminal, rode o comando abaixo para ver o modelo carregado e a coluna PROCESSOR (GPU ou CPU). Como visto na seção 3, o ideal é "100% GPU".
ollama ps
4. Arrumar. ollama stop gemma4 tira o modelo da memória, e ollama rm gemma4 o apaga quando você não precisar mais dele. Os modelos ficam em ~/.ollama/models no macOS, /usr/share/ollama/.ollama/models no Linux e C:\Users\%username%\.ollama\models no Windows; dá para mudar isso com a variável de ambiente OLLAMA_MODELS (FAQ do Ollama).
⚠️ Modelos com a tag ":cloud" não rodam na sua máquina: o Ollama também oferece modelos na nuvem, como o gemma4:cloud. Eles rodam na nuvem do Ollama e exigem login (documentação da nuvem do Ollama). O Ollama afirma que processa prompts e respostas para atender às suas solicitações e que não os usa para treinar modelos. Mesmo assim, se o seu objetivo é manter os dados na sua máquina, confira se a tag não termina em :cloud antes de usar.
5. Como escolher um modelo (exemplos de setembro de 2026)
Os modelos mudam rápido, então vale fixar os critérios antes dos nomes: (1) se cabe na sua memória (a tabela da seção 3), (2) se você precisa de entrada de imagem ou áudio, (3) se ele vai bem no que você precisa, como o seu idioma ou código, e (4) se ainda recebe atualizações. Nomes, tamanhos e datas de atualização podem ser conferidos na biblioteca de modelos do Ollama. Exemplos representativos em 30 de setembro de 2026:
Llama 3.1 (8B)
O modelo com mais downloads acumulados na biblioteca do Ollama (120 milhões). Com 4,9 GB, roda em PCs intermediários. Mas a última atualização foi há um ano. Para PCs com pouca memória, o Llama 3.2, que só existe em 1B (1,3 GB) e 3B (2,0 GB).
Meta Muse Glimmer (30B)
Um dos modelos de pesos abertos da Meta, pequeno e para PCs locais, lançado em agosto de 2026. É um modelo denso de 30B destilado do Muse Spark: lê texto e imagens e responde em texto. Contexto de 128K e licença Apache 2.0 (documentação da Meta). A tag padrão do Ollama, muse-glimmer, é a versão Q4_K_M de 18 GB (lista de tags, em 5 de outubro de 2026). A Meta informa que o seu próprio GGUF Q4_K_M (cerca de 17 GB) cabe em menos de 24 GB de VRAM (Get the model). O Llama 3.1 continua sendo distribuído e basta para um PC modesto, mas o modelo aberto pequeno da Meta é este. Em 15 de outubro também saiu a versão grande de 816B, o Muse Spark Open, mas os pesos têm cerca de 537 GB mesmo em 4 bits, então não rodam em um PC pessoal. No Ollama, ele só existe como tag na nuvem (muse-spark-open:cloud) (verificado em 18 de outubro de 2026).
Google Gemma 4
O modelo que o README do Ollama usa como primeiro exemplo. Vem em cinco tamanhos — E2B, E4B, 12B, 26B e 31B — e todos leem imagens. Só os pequenos E2B e E4B suportam áudio.
Alibaba Qwen3.8
Apresentado com melhorias em programação e em tarefas agênticas longas, de muitas etapas. O Ollama oferece um único tamanho, 27B (18 GB, contexto de 256K, entrada de imagem), então combina com PCs com memória de sobra.
DeepSeek, Mistral etc.
O DeepSeek-R1 tem muitos degraus, de 1.5B a 671B, e é um modelo de raciocínio que pensa antes de responder. O Mistral vem em um único tamanho, 7B. Escolha pelo uso e pela memória.
O segredo é avançar por etapas: teste uma tag menor, confirme com ollama ps que ela está na GPU e só suba um tamanho se não der conta. Assim como na nossa comparação de IAs na nuvem, o único jeito de saber se um modelo serve para o seu uso é testar.
6. Local x nuvem: quando usar cada um
Para se aprofundar nas diferenças, na distância de desempenho e em como escolher entre local e nuvem, veja nosso artigo sobre LLM local vs LLM em nuvem.
Local e nuvem não são um ou outro — a jogada inteligente é dividi-los por função.
- O local se encaixa em: lidar com dados confidenciais, tarefas de alto volume ou repetitivas, ambientes offline e trabalho rotineiro em que você quer manter os custos baixos.
- A nuvem se encaixa em: problemas difíceis que exigem a máxima precisão, pesquisas que precisam de informações atualizadas e programação pesada — onde os modelos de ponta como ChatGPT, Claude e Gemini brilham.
Por exemplo, "faça rascunhos, classificações e resumos localmente de graça e envie só o acabamento final ou as partes difíceis para a nuvem" funciona bem. Só lembre que "de graça" se refere às taxas de API: eletricidade e hardware continuam custando. Com pouco volume, a nuvem pode sair mais barata; qual vence depende de quanto você usa.
Resumo
Três pontos a reter sobre os LLMs locais.
- O que é: rodar um modelo de IA no seu próprio PC. Os dados nunca saem, sem taxas de API e sem limites offline.
- Como começar: LM Studio para iniciantes, Ollama para desenvolvedores (instale com o script oficial, rode
ollama rune confira comollama psse está na GPU). Comece com uma tag pequena, de uns 2–5 GB. A quantização (Q4_K_M) deixa o modelo com cerca de 30% do tamanho em fp16. - Quando usar: a nuvem é mais inteligente. Use o local para trabalho confidencial, de alto volume e offline, e a nuvem para problemas difíceis — combinar os dois é o melhor.
Comece instalando o LM Studio e rodando um modelo pequeno. A experiência de "a IA conversando inteiramente dentro do seu próprio PC" é mais revigorante do que você esperaria. Se quiser entender a mecânica, veja também como os LLMs funcionam.
FAQ
P. Vai rodar em um notebook comum?
R. Modelos pequenos, sim. Na biblioteca do Ollama, o llama3.2:3b ocupa 2,0 GB e o llama3.1:8b, 4,9 GB (em 30 de setembro de 2026); durante a execução, soma-se a memória do contexto. O LM Studio recomenda oficialmente 16 GB de RAM ou mais. Comece com uma tag pequena, confira com ollama ps se está na GPU e depois aumente o tamanho.
P. Um LLM local é mais inteligente que o ChatGPT?
R. Na máxima precisão, as IAs na nuvem de ponta (os modelos mais avançados do ChatGPT e do Claude) estão à frente. A força de um LLM local não é a inteligência bruta, mas a privacidade, o custo e o uso offline. Para o propósito certo, é bastante prático.
P. É completamente gratuito?
R. As ferramentas e os modelos abertos são gratuitos, e não há taxas de API. Você paga apenas a eletricidade e, se necessário, o custo inicial de um PC ou GPU. Quanto mais você usa, mais barata fica cada execução. Atenção: os modelos do Ollama com a tag :cloud rodam na nuvem do Ollama, o que é diferente de rodar localmente na sua máquina.
P. Quanta qualidade se perde com a quantização?
R. O arquivo fica com cerca de 30% do tamanho em fp16 (de 16 GB para 4,9 GB no Llama 3.1 8B). Quanto a qualidade cai depende do modelo e da tarefa, então comece com o Q4_K_M (a versão que o llama3.1:8b baixa) e, na dúvida, compare as respostas com a versão q8_0 do mesmo modelo (8,5 GB no Llama 3.1 8B).