Cómo ejecutar un LLM local: IA en tu propio PC — specs, herramientas y los mejores modelos para principiantes

Probablemente das por hecho que un gran modelo de lenguaje (LLM) tiene que ejecutarse en la nube. En realidad, ejecutar la IA por completo dentro de tu propio PC —un "LLM local"— es ya una opción realista. Tus datos nunca salen de la máquina, no hay tarifas de API y funciona sin internet. Los modelos pequeños ocupan solo unos pocos gigabytes, así que hasta un portátil corriente puede ejecutarlos.

Este artículo explica, para principiantes, qué es un LLM local, sus ventajas y desventajas, las specs que necesitas, cómo empezar (desde instalar Ollama con los pasos oficiales hasta comprobar que funciona), cómo elegir modelo y cuándo usarlo frente a la nube.

1. ¿Qué es un LLM local?

Un LLM local significa ejecutar un modelo de IA como ChatGPT o Claude directamente en tu propio PC (o teléfono) en lugar de en la nube. La IA que usas normalmente envía tu entrada a un servidor lejano, la procesa allí y te devuelve la respuesta; pero un LLM local hace todo ese procesamiento en la máquina que tienes delante.

Piénsalo como "streaming de música vs. descarga". La IA en la nube es como reproducir por la red cada vez que quieres escuchar algo; un LLM local es como descargar la canción a tu dispositivo para poder reproducirla sin conexión, cuando quieras. Una vez que pones un modelo —un archivo de unos pocos gigabytes— en tu PC, puedes ejecutarlo sin internet y sin tarifas.

2. ¿Por qué local? Ventajas y desventajas

Los LLM locales tienen tres grandes atractivos: privacidad, coste y uso sin conexión. Como la entrada nunca sale de tu máquina, los datos confidenciales son más fáciles de manejar y no hay tarifas de API. Al no haber cobro por petición, la diferencia crece cuanto más repites el mismo trabajo miles de veces.

También hay desventajas. Seamos honestos al respecto.

En resumen: "un paso por detrás de la vanguardia en inteligencia, pero un claro ganador en privacidad, coste y uso sin conexión". Para los usos en los que puedes aceptar ese equilibrio, un LLM local es una opción potente.

3. Las specs de PC que necesitas y la cuantización

«¿Funcionará en mi PC?» es seguramente tu gran pregunta. Las claves son la memoria (la RAM o la VRAM de la GPU) y la cuantización.

La cuantización es una técnica de compresión que reduce la precisión numérica del modelo a cambio de un tamaño mucho menor. El formato estándar para uso local es GGUF, y Q4_K_M es el punto de equilibrio de referencia. Cuánto se reduce puede comprobarse en la lista de etiquetas de Ollama: Llama 3.1 8B ocupa 16 GB en 16 bits (fp16) y 4,9 GB en Q4_K_M, alrededor del 30 % del tamaño. Esa versión Q4_K_M es también la que descarga ollama run llama3.1:8b (etiquetas de llama3.1, a 30 de septiembre de 2026). En Hugging Face hay 207.667 modelos en formato GGUF (filtro GGUF de Hugging Face, misma fecha).

¿Y cuánto ocupan en la práctica? Estos son los tamaños de descarga que muestra la biblioteca de modelos de Ollama, de menor a mayor.

*Fuente: las páginas de etiquetas de la biblioteca de modelos de Ollama (a 30 de septiembre de 2026). Los rangos de tamaño son los que muestra la biblioteca. Audio: la tabla de la página de gemma4 lo indica solo para E2B y E4B (la lista de etiquetas muestra Texto e Imagen). La fila de muse-glimmer sale de la lista de etiquetas de muse-glimmer (a 5 de octubre de 2026).

Dos claves para leer la tabla:

• Hace falta más memoria que el tamaño del archivo: la tabla muestra tamaños de archivo. Durante la ejecución se suma la memoria para el historial de la conversación (el contexto). El contexto predeterminado de Ollama es de 4096 tokens, y cuanto más lo alargues, más memoria consume (FAQ de Ollama).
• Comprueba con ollama ps si cabe en la GPU: si la columna PROCESSOR dice «100% GPU», todo el modelo está en la GPU; «100% CPU» significa que se ejecuta en la memoria del sistema. Un reparto como «48%/52% CPU/GPU» indica que una parte se ha desbordado (misma FAQ). La parte que va en la CPU suele ser más lenta, así que es la señal para bajar un tamaño de etiqueta.

En los Mac con Apple Silicon, la CPU y la GPU comparten la misma memoria (memoria unificada), así que un Mac con mucha memoria ejecuta etiquetas grandes en la GPU con más facilidad. Los requisitos de sistema y hardware, según las páginas oficiales de cada herramienta, son estos.

Fuentes: documentación de Ollama para macOS y Windows, y requisitos de sistema de LM Studio (todo a 30 de septiembre de 2026).

La NPU (un componente dedicado a la IA) de los portátiles recientes todavía no la usa Ollama. Para saber qué aporta una NPU, consulta «¿Qué es una NPU y la necesita tu PC?».

Para una primera prueba bastan las etiquetas de la parte alta de la tabla (de unos 2 a 5 GB).

En cambio, con herramientas como Claude Code o Codex, que ejecutan el modelo en un servidor, el rendimiento del PC solo influye en la velocidad de los comandos que se ejecutan en tu equipo y en la memoria libre. El tiempo que la IA dedica a pensar no cambia (Claude Code y Codex: qué PC necesitas).

4. Cómo empezar: elegir herramienta y primera ejecución

Si quieres profundizar en Ollama, consulta nuestra guía completa de Ollama (comandos, API y personalización).

Elige una de las dos herramientas de referencia según tu perfil.

Las dos son gratuitas y funcionan en Windows, Mac y Linux. Hay otras, como Jan, Open WebUI o llama.cpp. Si prefieres hacer clic a teclear, instala LM Studio y descarga un modelo pequeño: es el camino más rápido. Si no te asusta la terminal, con los pasos de Ollama que siguen lo tendrás funcionando en minutos.

Ejecutar tu primer modelo con Ollama

Seguimos los pasos del README y la documentación oficiales de Ollama, desde la instalación hasta comprobar que funciona (a 30 de septiembre de 2026). La lista completa de comandos y los detalles están en la sección de comandos de nuestra guía de Ollama; aquí nos quedamos con las cuatro cosas que necesitas la primera vez.

1. Instalar. En macOS y Linux, ejecuta esta línea en una terminal:

curl -fsSL https://ollama.com/install.sh | sh

En Windows, ejecuta esta línea en PowerShell:

irm https://ollama.com/install.ps1 | iex

Si prefieres no ejecutar directamente un script descargado de internet, también sirven las descargas manuales oficiales (Ollama.dmg para Mac, OllamaSetup.exe para Windows y los pasos de instalación manual para Linux). Para Docker existe la imagen oficial ollama/ollama (README de Ollama).

2. Ejecutar un modelo. Igual que el primer ejemplo del README, ejecutemos Gemma 4. Si el modelo aún no está en tu equipo, primero se descarga y luego empieza la conversación.

ollama run gemma4

La etiqueta predeterminada de gemma4 ocupa 6,6–9,5 GB. Si vas justo de memoria, indica una etiqueta más pequeña, como ollama run gemma4:e2b u ollama run llama3.2 (2,0 GB).

3. Comprobar que funciona. En otra terminal, ejecuta el comando siguiente para ver el modelo cargado y su columna PROCESSOR (GPU o CPU). Como se vio en la sección 3, lo ideal es «100% GPU».

ollama ps

4. Recoger. ollama stop gemma4 lo descarga de la memoria, y ollama rm gemma4 lo borra cuando ya no lo necesites. Los modelos se guardan en ~/.ollama/models en macOS, /usr/share/ollama/.ollama/models en Linux y C:\Users\%username%\.ollama\models en Windows; puedes cambiarlo con la variable de entorno OLLAMA_MODELS (FAQ de Ollama).

5. Cómo elegir modelo (ejemplos a septiembre de 2026)

Los modelos cambian deprisa, así que conviene fijar los criterios antes que los nombres: (1) si cabe en tu memoria (la tabla de la sección 3), (2) si necesitas entrada de imagen o audio, (3) si rinde bien en lo que necesitas, como tu idioma o el código, y (4) si se sigue actualizando. Los nombres, tamaños y fechas de actualización se consultan en la biblioteca de modelos de Ollama. Ejemplos representativos a 30 de septiembre de 2026:

El truco es avanzar por pasos: prueba una etiqueta pequeña, confirma con ollama ps que está en la GPU y sube un tamaño solo si se queda corta. Igual que con nuestra comparativa de IA en la nube, la única forma de saber si un modelo encaja con tu uso es probarlo.

6. Local vs. nube: cuándo usar cada uno

Para profundizar en las diferencias, la brecha de rendimiento y cómo elegir entre local y nube, consulta nuestro artículo sobre LLM local vs LLM en la nube.

Local y nube no son una disyuntiva: la jugada inteligente es repartirlos por función.

• Lo local encaja para: manejar datos confidenciales, tareas de alto volumen o repetitivas, entornos sin conexión y trabajo rutinario en el que quieres mantener bajos los costes.
• La nube encaja para: problemas difíciles que exigen máxima precisión, investigación que necesita información actualizada y programación pesada, donde brillan los modelos de primer nivel como ChatGPT, Claude y Gemini.

Por ejemplo, "haz los borradores, la clasificación y los resúmenes en local y gratis, y envía a la nube solo el pulido final o las partes difíciles" funciona bien. Eso sí, «gratis» se refiere a las tarifas de API: la electricidad y el equipo se pagan igual. Si el volumen es pequeño, la nube puede salir más barata; cuál gana depende de cuánto lo uses.

Resumen

Tres conclusiones sobre los LLM locales.

• Qué es: ejecutar un modelo de IA en tu propio PC. Los datos nunca salen, sin tarifas de API ni límites por estar sin conexión.
• Cómo empezar: LM Studio para principiantes, Ollama para desarrolladores (se instala con el script oficial, se lanza con ollama run y se comprueba con ollama ps que está en la GPU). Empieza con una etiqueta pequeña de unos 2–5 GB. La cuantización (Q4_K_M) deja el modelo en torno al 30 % de su tamaño en fp16.
• Cuándo usarlo: la nube es más inteligente. Usa lo local para trabajo confidencial, de alto volumen y sin conexión, y la nube para problemas difíciles; combinar ambos es lo mejor.

Empieza instalando LM Studio y ejecutando un modelo pequeño. La experiencia de "una IA que habla por completo dentro de tu propio PC" es más refrescante de lo que esperarías. Si quieres entender el mecanismo, consulta también cómo funcionan los LLM.

FAQ