Comment faire tourner un LLM local : l'IA sur votre propre PC — specs, outils et meilleurs modèles pour débutants

Vous supposez probablement qu'un grand modèle de langage (LLM) doit forcément tourner dans le cloud. En réalité, faire fonctionner l'IA entièrement à l'intérieur de votre propre PC — un « LLM local » — est désormais une option réaliste. Vos données ne quittent jamais la machine, il n'y a aucuns frais d'API, et cela fonctionne sans Internet. Les petits modèles ne pèsent que quelques gigaoctets : même un ordinateur portable ordinaire peut les faire tourner.

Cet article présente, pour les débutants, ce qu'est un LLM local, ses avantages et ses inconvénients, les specs nécessaires, comment démarrer (de l'installation d'Ollama selon la procédure officielle à la vérification du fonctionnement), comment choisir un modèle, et quand le préférer au cloud.

1. Qu'est-ce qu'un LLM local ?

Un LLM local consiste à faire tourner un modèle d'IA comme ChatGPT ou Claude directement sur votre propre PC (ou téléphone) au lieu du cloud. L'IA que vous utilisez d'habitude envoie vos saisies vers un serveur lointain, les y traite, puis renvoie la réponse — mais un LLM local effectue tout ce traitement sur la machine posée devant vous.

Voyez cela comme « le streaming de musique opposé au téléchargement ». L'IA cloud, c'est comme diffuser en streaming sur le réseau chaque fois que vous voulez écouter ; un LLM local, c'est comme télécharger le morceau sur votre appareil pour pouvoir le lire hors ligne, à tout moment. Une fois que vous placez un modèle — un fichier de quelques gigaoctets — sur votre PC, vous pouvez l'exécuter sans Internet et sans frais.

2. Pourquoi le local ? Avantages et inconvénients

Les LLM locaux ont trois grands atouts : la confidentialité, le coût et l'usage hors ligne. Comme les saisies ne quittent jamais votre machine, les données confidentielles sont plus faciles à gérer, et il n'y a aucuns frais d'API. Faute de facturation à la requête, l'écart se creuse d'autant plus que vous répétez la même tâche des milliers de fois.

Il y a aussi des inconvénients. Soyons honnêtes à leur sujet.

En bref : « un cran derrière la pointe en matière d'intelligence, mais nettement gagnant sur la confidentialité, le coût et le hors ligne ». Pour les usages où vous pouvez accepter ce compromis, un LLM local est une option puissante.

3. Les specs PC nécessaires, et la quantification

« Est-ce que ça tournera sur mon PC ? » est sans doute votre première question. Les clés sont la mémoire (la RAM, ou la VRAM du GPU) et la quantification.

La quantification est une technique de compression qui réduit la précision numérique du modèle en échange d'une taille bien plus petite. Le format standard pour l'usage local est GGUF, et Q4_K_M en est le compromis de référence. On peut vérifier le gain sur la liste des tags d'Ollama : Llama 3.1 8B pèse 16 GB en 16 bits (fp16) et 4,9 GB en Q4_K_M, soit environ 30 % de la taille. C'est aussi cette version Q4_K_M que télécharge ollama run llama3.1:8b (tags de llama3.1, au 30 septembre 2026). Hugging Face recense 207 667 modèles au format GGUF (filtre GGUF de Hugging Face, même date).

Et concrètement, quelle taille font-ils ? Voici les tailles de téléchargement affichées dans la bibliothèque de modèles d'Ollama, de la plus petite à la plus grande.

*Source : les pages de tags de la bibliothèque de modèles d'Ollama (au 30 septembre 2026). Les fourchettes de taille sont celles qu'affiche la bibliothèque. Audio : le tableau de la page de gemma4 ne l'indique que pour E2B et E4B (la liste des tags affiche Texte, Image). La ligne muse-glimmer provient de la liste des tags de muse-glimmer (au 5 octobre 2026).

Deux conseils pour lire ce tableau :

• Il faut plus de mémoire que la taille du fichier : le tableau donne des tailles de fichier. Pendant l'exécution s'y ajoute la mémoire pour l'historique de la conversation (le contexte). Le contexte par défaut d'Ollama est de 4 096 tokens, et plus vous l'allongez, plus il consomme de mémoire (FAQ d'Ollama).
• Vérifiez avec ollama ps que le modèle tient sur le GPU : si la colonne PROCESSOR indique « 100% GPU », tout le modèle est sur le GPU ; « 100% CPU » signifie qu'il tourne en mémoire système. Une répartition comme « 48%/52% CPU/GPU » indique qu'une partie a débordé (même FAQ). La partie exécutée sur le CPU est généralement plus lente : c'est le signal pour descendre d'une taille de tag.

Sur les Mac Apple Silicon, le CPU et le GPU partagent la même mémoire (mémoire unifiée) : un Mac bien doté en mémoire fait donc tourner plus facilement de gros tags sur le GPU. Voici la configuration requise indiquée sur les pages officielles de chaque outil.

Sources : documentation d'Ollama pour macOS et Windows, et configuration requise de LM Studio (le tout au 30 septembre 2026).

Le NPU (un composant dédié à l'IA) présent dans les ordinateurs portables récents n'est pas encore utilisé par Ollama. Pour savoir à quoi sert un NPU, voir « Qu'est-ce qu'un NPU, et votre PC en a-t-il besoin ? ».

Pour un premier essai, les tags du haut du tableau (autour de 2 à 5 GB) suffisent largement.

À l'inverse, avec des outils comme Claude Code ou Codex, qui font tourner le modèle sur un serveur, la performance du PC ne change que le temps d'exécution des commandes locales et la mémoire disponible : le temps de réflexion de l'IA, lui, ne change pas (« Specs PC nécessaires pour Claude Code et Codex »).

4. Comment démarrer — choisir l'outil et premier lancement

Pour aller plus loin avec Ollama, consultez notre guide complet d'Ollama (commandes, API, personnalisation).

Choisissez l'un des deux outils de référence selon votre profil.

Les deux sont gratuits et fonctionnent sous Windows, Mac et Linux. Il en existe d'autres : Jan, Open WebUI, llama.cpp. Si vous préférez cliquer plutôt que taper, installez LM Studio et téléchargez un petit modèle : c'est le plus rapide. Si le terminal ne vous fait pas peur, les étapes Ollama ci-dessous vous mettent en route en quelques minutes.

Lancer votre premier modèle avec Ollama

Nous suivons ici les étapes du README et de la documentation officiels d'Ollama, de l'installation à la vérification du fonctionnement (au 30 septembre 2026). La liste complète des commandes et les détails se trouvent dans la section commandes de notre guide Ollama ; ici, on s'en tient aux quatre choses nécessaires la première fois.

1. Installer. Sous macOS et Linux, lancez cette ligne dans un terminal :

curl -fsSL https://ollama.com/install.sh | sh

Sous Windows, lancez cette ligne dans PowerShell :

irm https://ollama.com/install.ps1 | iex

Si vous préférez ne pas exécuter directement un script venu d'Internet, les téléchargements manuels officiels conviennent aussi (Ollama.dmg pour Mac, OllamaSetup.exe pour Windows et la procédure d'installation manuelle pour Linux). Pour Docker, il existe l'image officielle ollama/ollama (README d'Ollama).

2. Lancer un modèle. Comme dans le premier exemple du README, lançons Gemma 4. Si le modèle n'est pas encore sur votre machine, il est d'abord téléchargé, puis la conversation commence.

ollama run gemma4

Le tag par défaut de gemma4 pèse 6,6–9,5 GB. Si la mémoire est juste, indiquez un tag plus petit, comme ollama run gemma4:e2b ou ollama run llama3.2 (2,0 GB).

3. Vérifier qu'il tourne. Dans un autre terminal, lancez la commande ci-dessous pour voir le modèle chargé et sa colonne PROCESSOR (GPU ou CPU). Comme vu dans la section 3, « 100% GPU » est l'idéal.

ollama ps

4. Faire le ménage. ollama stop gemma4 le décharge de la mémoire, et ollama rm gemma4 le supprime quand vous n'en avez plus besoin. Les modèles sont stockés dans ~/.ollama/models sous macOS, /usr/share/ollama/.ollama/models sous Linux et C:\Users\%username%\.ollama\models sous Windows ; la variable d'environnement OLLAMA_MODELS permet de changer cet emplacement (FAQ d'Ollama).

5. Comment choisir un modèle (exemples de septembre 2026)

Les modèles se renouvellent vite : mieux vaut retenir les critères avant les noms. (1) Tient-il dans votre mémoire (le tableau de la section 3) ? (2) Avez-vous besoin d'une entrée image ou audio ? (3) Est-il bon pour votre usage, comme votre langue ou le code ? (4) Est-il encore mis à jour ? Les noms, tailles et dates de mise à jour se vérifient dans la bibliothèque de modèles d'Ollama. Exemples représentatifs au 30 septembre 2026 :

L'astuce consiste à avancer par paliers : essayez un petit tag, vérifiez avec ollama ps qu'il est sur le GPU, et ne montez d'une taille que s'il ne suffit pas. Comme pour notre comparatif des IA cloud, le seul moyen de savoir si un modèle convient à votre usage, c'est de l'essayer.

6. Local ou cloud : quand utiliser quoi

Pour approfondir les différences, l'écart de performance et le choix entre local et cloud, voir notre article LLM local vs LLM cloud.

Le local et le cloud ne sont pas un choix exclusif — le bon réflexe est de les répartir par rôle.

• Le local convient pour : gérer des données confidentielles, les tâches à fort volume ou répétitives, les environnements hors ligne, et le travail de routine où vous voulez maîtriser les coûts.
• Le cloud convient pour : les problèmes difficiles qui exigent une précision maximale, la recherche qui requiert des informations à jour, et le codage lourd — là où brillent les modèles haut de gamme comme ChatGPT, Claude et Gemini.

Par exemple, « faire les brouillons, la classification et les résumés en local gratuitement, et n'envoyer au cloud que le peaufinage final ou les parties difficiles » fonctionne bien. Gardez toutefois à l'esprit que « gratuit » concerne les frais d'API : l'électricité et le matériel restent à payer. Avec un faible volume, le cloud peut revenir moins cher ; le gagnant dépend de votre volume d'usage.

Résumé

Trois points à retenir sur les LLM locaux.

• Ce que c'est : faire tourner un modèle d'IA sur votre propre PC. Les données ne partent jamais, sans frais d'API et sans limites hors ligne.
• Comment démarrer : LM Studio pour les débutants, Ollama pour les développeurs (installation par le script officiel, lancement avec ollama run, vérification avec ollama ps que le modèle est sur le GPU). Commencez par un petit tag d'environ 2 à 5 GB. La quantification (Q4_K_M) ramène un modèle à environ 30 % de sa taille en fp16.
• Quand l'utiliser : le cloud est plus intelligent. Utilisez le local pour le travail confidentiel, à fort volume et hors ligne, et le cloud pour les problèmes difficiles — combiner les deux est le mieux.

Commencez par installer LM Studio et faire tourner un petit modèle. L'expérience de « l'IA qui dialogue entièrement à l'intérieur de votre propre PC » est plus rafraîchissante qu'on ne le croit. Si vous voulez comprendre les mécanismes, voyez aussi comment fonctionnent les LLM.

FAQ