LLM Gateway (Proxy) क्या है? हर प्रोवाइडर के लिए एक API — 2026 गाइड
आपने OpenAI पर बनाया, फिर Claude आज़माना चाहा और Gemini से तुलना करनी चाही — और हर प्रोवाइडर के अलग SDK, फ़ॉर्मैट, तथा error handling में घंटों गँवा दिए। LLM gateway (AI gateway / LLM proxy) एक रिले है जिसे आप अपनी ऐप और प्रोवाइडर्स के बीच लगाते हैं: यह हर मॉडल तक पहुँचने के लिए एक OpenAI-compatible API पेश करता है और cross-cutting काम अपने ज़िम्मे लेता है — fallback, cost tracking, virtual keys, caching, rate limiting, और observability। यह गाइड बताती है कि आपको इसकी ज़रूरत क्यों है, gateway असल में क्या है, तीन प्रकार (self-hosted proxy = LiteLLM / hosted = OpenRouter / SDK = Vercel AI SDK), LiteLLM, OpenRouter, और Vercel AI SDK में से कैसे चुनें, न्यूनतम सेटअप कोड जो सिर्फ़ endpoint बदलता है, और सीमाएँ — एक hop latency, gateway एक नया failure point, शुल्क (OpenRouter खरीद पर 5.5% लेता है), फ़ीचर का नुकसान, और privacy।