¿Qué es un gateway de LLM (proxy)? Una API para cada proveedor — Guía 2026

Lo construiste sobre la API de OpenAI. Luego quieres probar también Claude y comparar con Gemini. Pero cada proveedor tiene un SDK, una forma de petición y un comportamiento de errores distintos. Cada cambio implica reescribir código, transformar respuestas y mantener una lógica de reintentos separada por proveedor: antes de darte cuenta, la "fontanería específica de cada proveedor" se ha filtrado por todos los rincones de tu aplicación. Y mientras estás atado a un único proveedor, en el momento en que esa empresa sufre una caída, sube precios o retira un modelo, tu aplicación se cae con ella.

Lo que se hace cargo de toda esa fontanería es un gateway de LLM (AI gateway), también llamado proxy de LLM. Es un relé que se sitúa entre tu aplicación y los proveedores, exponiendo una sola API (normalmente compatible con OpenAI) para alcanzar cualquier modelo, y encargándose de las tareas transversales: fallback, seguimiento de costes, caché, limitación de tasa. Esta guía cubre qué hace un gateway por ti, la diferencia entre los tipos autoalojado, alojado y SDK, cómo elegir entre LiteLLM, OpenRouter y el Vercel AI SDK, y los límites que necesitas conocer para no llevarte un disgusto.

1. Por qué necesitas un gateway de LLM

Si solo llamas a un único proveedor a través de un único SDK, no necesitas un gateway. Lo necesitas en el momento en que quieres usar más de un modelo. Fíjate en los tres dolores clásicos.

Lo que comparten es una estructura donde las restricciones del SDK dictan una decisión esencialmente estratégica: qué modelo usar. Un gateway extrae esa fontanería de tu aplicación. Tu aplicación solo necesita conocer un endpoint; a quién llamar por detrás, a quién recurrir en caso de fallo y cuánto has gastado son tarea del gateway. Como construir un agente de IA o un framework de agentes casi siempre asume varios modelos, la demanda no hace más que crecer.

2. Qué es un gateway de LLM

Un gateway de LLM es un proxy que se sitúa entre tu aplicación y uno o varios proveedores de LLM. La mayoría expone una sola API con la forma del endpoint chat-completions de OpenAI y consolida en un solo lugar el trabajo transversal que, de otro modo, estaría disperso por tu código: enrutamiento, reintentos y fallback, caché, limitación de tasa, seguimiento de costes y control de acceso.

La clave es hacer que la ventana sea una sola. El código de tu aplicación simplemente pasa una cadena a model. Escribe anthropic/claude-opus-4.8 y obtienes Claude; escribe openai/gpt-5.5 y obtienes GPT: nada más en la aplicación cambia. Decisiones como "recurrir a otro modelo cuando este está caído" o "devolver esta misma pregunta desde caché" se resuelven todas del lado del gateway. Incorporar un LLM local para que "los datos sensibles se queden en local y todo lo demás vaya a la nube" se escribe de la misma manera.

3. Qué gestiona por ti

El trabajo transversal que asume un gateway se agrupa aproximadamente en estos seis bloques. Las herramientas difieren en aquello en lo que destacan, pero la dirección es compartida.

4. Tres tipos: autoalojado, alojado, SDK

"Gateway de LLM" se usa como una sola etiqueta, pero dónde se ejecuta lo divide en tres caracteres bastante distintos. Confunde esto y elegirás mal.

① Autoalojado es un proceso independiente (un servidor proxy) que levantas en tu propia infraestructura. Como los prompts no pasan por un SaaS externo, es fuerte en gobernanza y auditoría, pero lo operas tú. ② Alojado hace que el proveedor ejecute el proxy, así que es lo más rápido de adoptar, pero las peticiones pasan por un tercero. ③ SDK no levanta ningún proceso separado; absorbe las diferencias entre proveedores dentro del código de tu aplicación: no es un relé de red sino una "capa de abstracción", y puede combinarse con ① o ②.

5. Comparativa de las herramientas principales

Aquí tienes las tres protagonistas en orden recomendado, más dos que conviene conocer. Las cifras se basan en las páginas oficiales de cada proveedor a fecha de julio de 2026 (las ofertas cambian, así que confirma siempre lo más reciente contra la fuente primaria).

LiteLLM — el proxy autoalojado estándar

LiteLLM (de BerriAI) es una biblioteca Python de código abierto y un gateway autoalojado. Te permite llamar a más de 100 proveedores y más de 2.500 modelos a través de una única API compatible con OpenAI (según el repositorio oficial). Levántalo como proxy y obtienes seguimiento de costes, claves virtuales, limitación de tasa, fallback, balanceo de carga, caché con Redis y observabilidad (integraciones con Langfuse/Prometheus/Datadog). Es la primera opción para organizaciones que quieren mantener los prompts en casa.

OpenRouter — multiproveedor con una sola clave, al instante

OpenRouter es un gateway alojado sin operaciones. Con una única API compatible con OpenAI y una sola clave de API, da acceso a más de 400 modelos según el sitio oficial. Su diseño de precios destaca: el sitio oficial afirma que "no aplicamos margen sobre los tokens de inferencia (los precios del catálogo son iguales a los precios publicados de cada proveedor)", mientras cobra una comisión de plataforma del 5,5 % sobre las compras de crédito (según openrouter.ai/pricing). Es abrumadoramente rápido para "solo ponerlo en marcha" y "probar cada proveedor con una sola clave".

Vercel AI SDK — abstraer desde el código en TypeScript

Vercel AI SDK (simplemente "AI SDK" en 2026) es un kit de herramientas TypeScript de código abierto. En lugar de un proceso proxy separado, es una capa de abstracción que absorbe las diferencias entre proveedores dentro del código de tu aplicación. Lo que la documentación llama el "núcleo arquitectónico" es la abstracción de proveedores: cambiar de OpenAI a Anthropic significa cambiar un import y una cadena de modelo, mientras tu código de generación, streaming y llamada a herramientas permanece totalmente intacto. Combínalo con el Vercel AI Gateway alojado y alcanzas más de 100 modelos. Para los detalles de implementación y el código, consulta nuestra guía completa del Vercel AI SDK.

Dos más que conviene conocer

6. Configuración mínima (código)

Parece intimidante, pero el meollo del cambio está en un único lugar: cambiar el endpoint (o la cadena de modelo). Aquí tienes el ejemplo mínimo para cada uno de los tres tipos.

② Alojado: OpenRouter (solo cambia el endpoint)

Conserva tu SDK de OpenAI habitual; cambia únicamente base_url y la clave para alcanzar más de 400 modelos.

from openai import OpenAI

client = OpenAI(
    base_url="https://openrouter.ai/api/v1",  # este es el único cambio
    api_key="sk-or-...",                       # tu clave de OpenRouter
)

resp = client.chat.completions.create(
    model="anthropic/claude-opus-4.8",  # cámbialo a "openai/gpt-5.5" y ya has hecho el cambio
    messages=[{"role": "user", "content": "Hola"}],
)
print(resp.choices[0].message.content)

① Autoalojado: LiteLLM (levanta tu propio proxy)

Enumera tus modelos en un archivo de configuración y un solo comando levanta un gateway compatible con OpenAI en localhost:4000. Tu aplicación solo apunta ahí.

# config.yaml
model_list:
  - model_name: claude
    litellm_params:
      model: anthropic/claude-opus-4-8
      api_key: os.environ/ANTHROPIC_API_KEY
  - model_name: gpt
    litellm_params:
      model: openai/gpt-5.5
      api_key: os.environ/OPENAI_API_KEY

# iniciar (sirve una API compatible con OpenAI en http://localhost:4000)
litellm --config config.yaml

③ SDK: Vercel AI SDK (cambia la cadena de modelo en el código)

Conserva el import y la función; cambia solo la cadena de model para hacer el cambio.

import { generateText } from 'ai';

const { text } = await generateText({
  model: 'anthropic/claude-opus-4.8',  // cámbialo a 'openai/gpt-5.5'
  prompt: 'Hola',
});
console.log(text);

En todos los casos no has tocado ni una sola línea de la lógica de la aplicación. Ese es el efecto de un gateway/abstracción. El fallback y la caché se añaden por encima de esto mediante configuración (la documentación de cada proveedor es la vía más rápida para la sintaxis exacta).

7. Cómo elegir

Elige no por "cuál es el mejor" sino por cuál encaja con tus restricciones. Aplícalas en este orden y rara vez te quedarás atascado.

Las combinaciones son normales en la práctica. Por ejemplo, "escribe la aplicación con el Vercel AI SDK, pero apunta su puerta trasera a un proxy LiteLLM para centralizar el coste y las claves de toda la empresa" es una configuración de dos niveles que funciona precisamente porque los tipos SDK y proxy son capas separadas. Como seguro contra el riesgo de dependencia, encajar un LLM local como uno de los destinos de fallback también se está volviendo estándar.

8. Advertencias y límites — no es gratis

Un gateway es cómodo, pero como añade una capa, siempre tiene un coste. Ten en cuenta estos cuatro puntos antes de adoptar uno.

Una cosa más que a menudo se pasa por alto: la privacidad. Enrutar a través de un gateway alojado significa que tus prompts y respuestas pasan por la infraestructura de un tercero. Si manejas datos sensibles, revisa la política de tratamiento de datos del intermediario o, de entrada, mantén los prompts en casa con un tipo autoalojado (como LiteLLM). Para producción en una organización, trata las propias claves y logs del gateway como sujetos de mínimo privilegio y aislamiento también: ese es el lado seguro.

Resumen

Si trabajas con varios modelos, un gateway se está convirtiendo no en un "estaría bien tenerlo" sino en equipamiento básico para reunir la fontanería en un solo lugar. Empieza por cambiar base_url con OpenRouter o cambiar una cadena de modelo con el Vercel AI SDK: ese pequeño paso disuelve la dependencia de un único proveedor y hace que tanto la comparación como el fallback se vuelvan de repente realistas. Para especificaciones exactas y actuales, confirma la fuente primaria de cada proveedor (LiteLLM / OpenRouter / AI SDK).

Preguntas frecuentes