Guía completa de Ollama [2026]: instalación, comandos y API

Ollama es una herramienta gratuita y de código abierto para ejecutar LLM abiertos (modelos de lenguaje grandes) en tu propio ordenador. Se instala en Windows, macOS y Linux, y con una sola línea, ollama run nombre-del-modelo, pasas de descargar el modelo a conversar con él. Mientras está en marcha, levanta un servidor de API en localhost:11434, así que tus propias apps y herramientas como Claude Code también pueden llamarlo. Además de los modelos que se ejecutan en tu equipo, ahora también ejecuta modelos en la nube, cuyo nombre termina en :cloud, con los mismos comandos.

Esta guía se centra en cómo usar Ollama en sí, contrastada con el texto original del repositorio oficial en GitHub (incluido el código fuente), la documentación oficial y la página de precios (a 12 de noviembre de 2026). Para los LLM locales en general, consulta cómo empezar con un LLM local; para elegir modelo, nuestra comparativa de los mejores modelos LLM locales; para calcular la VRAM que necesitas, el artículo sobre requisitos de hardware; y para conectarlo a tu editor, el artículo sobre Ollama + Cline.

1. ¿Qué es Ollama? Dos formas de ejecutar modelos: en local y en la nube

Ollama es una herramienta gratuita y de código abierto para ejecutar modelos abiertos (Gemma, Qwen, gpt-oss y otros) de forma sencilla en tu propio PC. Se encarga en segundo plano de lo tedioso (descargar modelos, manejar formatos de cuantización, configurar el uso de la GPU), así que tú solo tienes que «nombrar un modelo y ejecutarlo». La inferencia se basa en llama.cpp, y en los Mac con Apple silicon algunos modelos también tienen versiones que funcionan con MLX de Apple.

Hay dos formas de ejecutar un modelo, y la que elijas cambia por completo el PC que necesitas y lo que pagas.

Una herramienta parecida es LM Studio. A grandes rasgos: Ollama = gira en torno a los comandos y la API, pensado para desarrolladores, automatización y conectar agentes; LM Studio = gira en torno a una interfaz gráfica, para quien quiere ir de buscar un modelo a conversar sin salir de la ventana. Ambos son gratuitos. Las diferencias entre local y nube en sí (coste, rendimiento, privacidad) las tratamos en nuestra comparativa entre LLM locales y en la nube.

2. Cómo instalar Ollama (Windows / macOS / Linux / Docker)

La página de descarga oficial y el README de GitHub ofrecen dos vías para cada sistema operativo: un comando de una línea que pegas en la terminal o un instalador manual. Las dos dan el mismo resultado.

Windows

Si prefieres no usar comandos, descarga OllamaSetup.exe desde la página de descarga y ejecútalo. Según la página oficial de Windows, se instala por defecto en tu carpeta de usuario, y los modelos pueden ocupar además de decenas a cientos de GB. Si la unidad C: va justa de espacio, cambia la ubicación de instalación con OllamaSetup.exe /DIR="d:\some\location" y la de los modelos con la variable de entorno OLLAMA_MODELS (apartado 9). Tras la instalación, Ollama se queda en segundo plano y el comando ollama funciona tanto en cmd como en PowerShell.

macOS

Para la instalación manual, abre Ollama.dmg y arrastra la app a la carpeta Aplicaciones. Al iniciarla por primera vez, si el comando ollama no está en el PATH, la app pide permiso para crear un enlace en /usr/local/bin (página oficial de macOS).

Linux

La instalación manual sin el script y el paquete adicional para GPU AMD se describen en la página oficial de Linux. En Linux no hay una app como en Windows y macOS: se usa con comandos y con la API.

Docker

La imagen oficial ollama/ollama está en Docker Hub. Un arranque mínimo solo con CPU es así. Para GPU NVIDIA, instala el NVIDIA Container Toolkit y añade --gpus=all; para GPU AMD, usa la imagen ollama/ollama:rocm (página oficial de Docker). Docker Desktop en macOS no puede usar la GPU (FAQ oficial), así que en un Mac es más rápido instalar la app directamente.

docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
docker exec -it ollama ollama run gemma4:e2b

3. ¿Irá rápido en tu GPU? (GPU compatibles de un vistazo)

Si Ollama no puede usar tu GPU, recurre a la CPU: no verás ningún error, pero irá varias veces más lento. Antes de instalar, comprueba si tu GPU aparece en la página oficial Hardware support. Estos son los puntos clave.

Para saber si un modelo se ha cargado de verdad en la GPU, ejecuta ollama ps mientras está en uso. Si la columna PROCESSOR indica 100% GPU, está entero en la GPU; un reparto como 48%/52% CPU/GPU significa que no cabe en la VRAM (FAQ oficial). Qué reducir cuando está repartido lo verás en la tabla del apartado 9. Las estimaciones de VRAM por GPU están en nuestro artículo sobre requisitos de hardware.

4. Lista de comandos de Ollama

La tabla recoge los comandos de la referencia oficial de la CLI y los definidos en el código fuente (cmd/cmd.go). En el día a día usarás sobre todo los seis primeros.

ollama run tiene opciones útiles. Con --verbose, tras cada respuesta muestra el tiempo empleado y los tokens por segundo (eval rate), así que puedes comparar la velocidad con cifras al cambiar de modelo o de etiqueta. --think=false hace que los modelos que muestran su razonamiento dejen de hacerlo, --format json devuelve la respuesta en JSON y --keepalive 30m cambia cuánto tiempo se queda el modelo en memoria. Con los modelos que leen imágenes, basta con incluir la ruta del archivo en el texto, como en ollama run gemma4 "¿Qué hay en esta imagen? ./photo.png".

Dentro del chat (tras el indicador >>>) hay comandos propios que empiezan por /. /bye sale, /? los lista todos, /clear borra el contexto de la conversación y /set parameter num_ctx 8192 cambia la longitud de contexto al momento. Para escribir varias líneas a la vez, enciérralas entre """.

5. Cómo obtener modelos y leer las etiquetas

Un modelo se indica con nombre + etiqueta. Si omites la etiqueta se usa latest, pero a qué tamaño apunta latest cambia de un modelo a otro. Si instalas sin mirar, puede bajarse una versión mucho mayor de lo que esperabas. Tomando como ejemplo la lista oficial de etiquetas de gemma4, la tabla explica cómo leerlas (según lo mostrado el 12 de noviembre de 2026).

Los tamaños aparecen como rangos porque una etiqueta contiene varios formatos y se elige el que encaja con tu equipo. En el latest de gemma4, el mínimo de 6,6 GB coincide con e4b-it-q4_K_M y el máximo de 9,5 GB con e4b-mlx. Si dudas, elige una etiqueta sin sufijo (como gemma4:e4b) y Ollama escogerá el formato adecuado para tu equipo. Los formatos de cuantización en sí (cómo leer el Q4_K_M de GGUF, etc.) los tratamos en nuestro artículo sobre formatos de cuantización.

Las cifras de VRAM son orientativas: el tamaño del modelo más un margen para la conversación (el contexto). La guía de inicio rápido oficial también recomienda «8 GB de VRAM (o memoria unificada en un Mac)» para gemma4:e2b (unos 7,2 GB en el formato que se instala por defecto). Una vez instalado, ollama show gemma4 muestra el número de parámetros, la cuantización y la longitud de contexto.

6. Usarlo con interfaz gráfica (la app de Ollama, Open WebUI y más)

Si prefieres evitar la terminal, empieza abriendo la app del propio Ollama. Las versiones para Windows y macOS incluyen una ventana para elegir un modelo y chatear (entrada oficial del blog «Ollama's new app»). Linux no tiene app, así que usa una de las otras interfaces de abajo.

7. Modelos en la nube y precios

Cuando tu GPU no puede con un modelo grande, puedes usar modelos en la nube que se ejecutan en los servidores de Ollama, con el mismo flujo de trabajo. Inicia sesión en ollama.com con ollama signin e indica un nombre terminado en :cloud, como ollama run gemma4:cloud. No hace falta descargar nada (página oficial de Cloud). Los planes son los siguientes (página de precios, a 12 de noviembre de 2026).

El uso se cuenta al precio de cada modelo por millón de tokens. La versión en la nube de gemma4, por ejemplo, cuesta $0,14 de entrada y $0,40 de salida. Con 1 millón de tokens de entrada y 200.000 de salida, sale 0,14 + 0,40 × 0,2 = unos $0,22. Con esa proporción, los $60 mensuales de Pro dan para unas 270 rondas así (60 ÷ 0,22). El uso incluido no se acumula para el mes siguiente. Los modelos que se ejecutan en tu equipo son ilimitados y gratuitos en todos los planes.

8. Usar la API (compatible con OpenAI y con Anthropic)

El verdadero valor de Ollama está en su API local. Por defecto, el servidor escucha en 127.0.0.1:11434; si envías peticiones ahí, tus apps, scripts y herramientas pueden usar un LLM local. Hay tres formatos de petición.

/api/chat (enviar el historial de la conversación)

curl http://localhost:11434/api/chat -d '{
  "model": "gemma4",
  "messages": [{
    "role": "user",
    "content": "Why is the sky blue?"
  }],
  "stream": false
}'

La respuesta está en message.content. Si quitas "stream": false, la respuesta llega poco a poco en líneas JSON (el streaming es el comportamiento por defecto). Para una sola respuesta también puedes enviar un "prompt" a /api/generate. El ejemplo de arriba está escrito para las shells de macOS y Linux; PowerShell de Windows trata las comillas de otra manera, así que usa esta forma de la página oficial de Windows (solo cambia el nombre del modelo).

(Invoke-WebRequest -method POST -Body '{"model":"gemma4", "prompt":"Why is the sky blue?", "stream": false}' -uri http://localhost:11434/api/generate ).Content | ConvertFrom-json

Compatible con OpenAI (/v1)

Con la biblioteca oficial de OpenAI basta con apuntar base_url a Ollama. Según la documentación oficial, en un servidor local la clave de API es «obligatoria pero se ignora», así que sirve cualquier cadena.

from openai import OpenAI

client = OpenAI(
    base_url='http://localhost:11434/v1/',
    api_key='ollama',  # required but ignored
)

chat_completion = client.chat.completions.create(
    messages=[{'role': 'user', 'content': 'Say this is a test'}],
    model='gemma4',
)
print(chat_completion.choices[0].message.content)

Compatible con Anthropic (conectar Claude Code)

La página oficial de compatibilidad con Anthropic indica definir estas dos variables de entorno en las herramientas pensadas para la API de Anthropic. Aunque no las definas tú, ollama launch claude inicia Claude Code ya conectado.

export ANTHROPIC_AUTH_TOKEN=ollama  # required but ignored
export ANTHROPIC_BASE_URL=http://localhost:11434

Las dos capas de compatibilidad solo cubren una parte de las API originales. El formato Responses, por ejemplo, no guarda estado, así que hay que enviar el historial de la conversación cada vez. Si usas un modelo local con un agente de programación, la clave es la longitud de contexto del apartado siguiente.

9. Personalización (Modelfile, variables de entorno, ajuste de memoria)

Modelfile: crea tu propio modelo

Un Modelfile es un archivo de configuración muy parecido a un Dockerfile. Partes de un modelo base (FROM, obligatorio), añades parámetros (PARAMETER) y un prompt de sistema (SYSTEM), y obtienes «tu propio modelo», que siempre se comporta igual. Un ejemplo mínimo:

FROM gemma4
PARAMETER temperature 0.7
PARAMETER num_ctx 16384
SYSTEM """Eres un asistente conciso. Empieza por lo más importante y responde en español."""

Guárdalo en un archivo llamado Modelfile y ejecuta lo siguiente en la misma carpeta. Si pones num_ctx en el Modelfile, amplías la longitud de contexto solo para este modelo, sin tocar el valor por defecto de todo el servidor.

ollama create my-assistant -f Modelfile
ollama run my-assistant

ollama show --modelfile gemma4 muestra el Modelfile de un modelo existente. Copiarlo y modificarlo es la forma más rápida de empezar.

Variables de entorno principales

El comportamiento del servidor se controla con variables de entorno. ollama serve --help muestra la lista completa. Estas son las más habituales, con los valores por defecto que figuran en el código fuente (envconfig/config.go) y en la FAQ oficial.

Cómo se definen depende del sistema operativo (FAQ oficial). En Windows, cierra Ollama desde la barra de tareas, añade una variable de usuario en la configuración de variables de entorno y vuelve a abrir Ollama desde el menú Inicio. En macOS, defínela con algo como launchctl setenv OLLAMA_HOST "0.0.0.0:11434" y reinicia la app. En Linux (con systemd), haz esto:

systemctl edit ollama.service
# en [Service], añade una línea por variable
# Environment="OLLAMA_HOST=0.0.0.0:11434"
systemctl daemon-reload
systemctl restart ollama

Ajustes con poca memoria o contexto largo

Con menos de 24 GiB de VRAM, la longitud de contexto por defecto es de solo 4k (unos 4.000 tokens). La página oficial Context length recomienda al menos 64.000 tokens para búsqueda web, agentes y herramientas de programación. Si se queda corto, el modelo olvida lo anterior sin dar ningún error, así que esta tabla recoge el ajuste para cada objetivo, para que puedas partir del síntoma.

Después de cambiar algo, comprueba con ollama ps que la columna CONTEXT muestra la longitud que querías y que PROCESSOR sigue en 100% GPU. Cómo se traduce la longitud de contexto en memoria lo calculamos en nuestro artículo sobre requisitos de hardware, y los síntomas de un agente que se queda sin contexto, en el artículo sobre Ollama + Cline.

10. Solución de problemas

Los atascos más habituales y las soluciones que da la FAQ oficial y la página de Troubleshooting.

Conclusión

Ollama ejecuta modelos abiertos en tu equipo o en la nube con el mismo flujo de trabajo. Cuatro ideas clave:

• Comprueba la GPU antes de instalar: NVIDIA necesita Compute Capability 5.0 o superior; AMD, la lista de ROCm v7 o Vulkan; los Mac, un chip Apple serie M. Ya en marcha, confirma 100% GPU en ollama ps.
• Lee la etiqueta antes de elegir: lo que contiene latest cambia según el modelo. Fíjate en el número del tamaño (e2b, 12b, 31b) y, si dudas, elige una etiqueta sin sufijo.
• Decide tú la longitud de contexto: con menos de 24 GiB de VRAM, el valor por defecto es 4k. Para agentes se recomiendan al menos 64k; recupera memoria cuantizando la caché K/V.
• Conecta herramientas con la API y launch: las API compatibles con OpenAI y Anthropic y ollama launch permiten usarlo desde tus apps y desde Claude Code. Los modelos pesados, con :cloud.

Empieza abriendo la app o escribiendo ollama run gemma4:e2b. La mejor forma de aprender es tenerlo en marcha mientras exploras las diferencias con la nube y cómo elegir modelo. Si quieres ir más allá y conectar un modelo a tu editor para que escriba código, programar con un LLM local explica la configuración de Cline y Continue.

FAQ