NPU (Neural Processing Unit) एक समर्पित चिप है जो कंप्यूटर के अंदर लगी होती है और AI की गणनाएँ कम बिजली में करती है। आजकल के कई लैपटॉप में यह होती है। हालाँकि, ChatGPT, Claude और Gemini जैसी AI सेवाएँ अपनी गणनाएँ सर्वर पर करती हैं, इसलिए NPU हो या न हो, उनकी रफ़्तार नहीं बदलती। NPU तब काम आता है जब आप ऐसी सुविधाएँ इस्तेमाल करते हैं जो AI को आपके अपने कंप्यूटर पर चलाती हैं, जैसे Windows की Copilot+ PC सुविधाएँ या वीडियो कॉल में बैकग्राउंड ब्लर।

कौन-सा हिस्सा मदद करेगा, यह इस पर निर्भर है कि आप क्या करना चाहते हैं

ChatGPT, Claude या Gemini इस्तेमाल करेंClaude Code या Codex से कोड लिखवाएँ
सर्वर (क्लाउड) कंप्यूटर का NPU इसमें शामिल नहीं होता
Windows की AI सुविधाएँ इस्तेमाल करेंRecall, Live Captions का अनुवाद, Studio Effects आदि
NPU ज़्यादातर के लिए Copilot+ PC चाहिए (40 TOPS या उससे ज़्यादा का NPU)
AI मॉडल अपने कंप्यूटर पर चलाएँOllama या LM Studio जैसे लोकल LLM
GPU और मेमोरी अभी केवल कुछ टूल NPU इस्तेमाल कर सकते हैं

NPU वाला कंप्यूटर चुनने की वजह तब बनती है जब आप दूसरी चीज़, यानी “Windows की AI सुविधाएँ”, इस्तेमाल करना चाहते हैं।

यह लेख Microsoft, Intel, AMD, Qualcomm, Apple आदि के आधिकारिक दस्तावेज़ों के आधार पर (25 अक्टूबर 2026 को जाँचे गए) बताता है कि NPU क्या है, कौन-सी सुविधाएँ NPU इस्तेमाल करती हैं, प्रदर्शन की संख्या (TOPS) कैसे पढ़ें, और NPU वाला कंप्यूटर चुनना है या नहीं, यह कैसे तय करें। Mac के बारे में छठे अध्याय में बताया गया है। भागों को NPU GPU क्लाउड के रंगों से अलग दिखाया गया है।

1. NPU क्या है? CPU और GPU से अंतर

कंप्यूटर में तीन हिस्से AI की गणना कर सकते हैं। AI की गणना का मुख्य काम एक साथ बहुत सारे गुणा और जोड़ करना है। ये तीनों हिस्से गणना कर सकते हैं, पर इनकी खूबियाँ और बिजली की खपत अलग-अलग है।

CPUकेंद्रीय प्रसंस्करण इकाई

खूबी
लगभग हर तरह का काम करता है। तय क्रम में चरण-दर-चरण प्रक्रिया चलाता है
AI के लिए
चलता है, पर धीमा। बाकी दोनों न हों तो यही विकल्प के तौर पर काम आता है

GPUग्राफ़िक्स प्रोसेसिंग यूनिट

खूबी
एक ही गणना को बहुत सारे डेटा पर एक साथ चलाता है (मूल रूप से स्क्रीन बनाने के लिए)
AI के लिए
लोकल LLM और इमेज जनरेशन जैसे भारी AI के लिए आम तौर पर सबसे तेज़ विकल्प है। अलग GPU ज़्यादा बिजली भी लेता है। कौन-सा मॉडल चल सकता है, यह मोटे तौर पर अलग GPU में GPU की मेमोरी (VRAM) से, और इंटीग्रेटेड GPU या Mac में कंप्यूटर की मेमोरी की मात्रा से तय होता है

NPUन्यूरल प्रोसेसिंग यूनिट

खूबी
सिर्फ़ AI की गणना को कम बिजली में लगातार चलाता है
AI के लिए
बैकग्राउंड ब्लर, ट्रांसक्रिप्शन और इमेज सुधार जैसे छोटे AI कामों के लिए अच्छा है, जिन्हें आप लगातार चालू रखना चाहते हैं। बैटरी से चलने वाले लैपटॉप में बैटरी की खपत कम करने में मदद मिलती है

NPU का नाम हर निर्माता के हिसाब से अलग है (Intel, AMD और Qualcomm इसे NPU कहते हैं, Apple इसे Neural Engine कहता है)। आजकल के पर्सनल कंप्यूटर चिप में CPU, GPU और NPU एक ही चिप में होते हैं।

ध्यान देने वाली बात यह है कि NPU तभी काम करता है जब ऐप उसे इस्तेमाल करने के लिए बना हो। Microsoft के डेवलपर दस्तावेज़ भी कहते हैं कि NPU इस्तेमाल करने के लिए ऐप का उसे सपोर्ट करना ज़रूरी है। कंप्यूटर में NPU हो, फिर भी जो ऐप उसे सपोर्ट नहीं करता, वह CPU या GPU पर चलता है। Windows 11 में Task Manager के “Performance” में NPU का उपयोग दिखता है, इसलिए AI सुविधा चलाते समय आप देख सकते हैं कि NPU काम कर रहा है या नहीं (Microsoft "Copilot+ PCs developer guide")।

2. क्या ChatGPT, Claude और Gemini NPU इस्तेमाल करते हैं?

ChatGPT, Claude और Gemini के ऐप और वेब वर्शन आपके सवाल इंटरनेट पर मौजूद सर्वर तक भेजते हैं, और वहाँ का बड़ा मॉडल जवाब बनाता है। जवाब बनाने की गणना में आपके कंप्यूटर का NPU या GPU इस्तेमाल नहीं होता, इसलिए वे ऑपरेटिंग आवश्यकताओं में शामिल नहीं हैं। उदाहरण के लिए, ChatGPT के Windows ऐप की ऑपरेटिंग आवश्यकताएँ सिर्फ़ Windows वर्शन से जुड़ी हैं (OpenAI Help)। Microsoft 365 Copilot भी भाषा मॉडल के अनुरोध Microsoft के डेटा सेंटर को भेजकर काम करता है (Microsoft Learn)।

इसलिए अगर ChatGPT या Claude धीमे लगें, तो NPU वाला कंप्यूटर लेने से वे तेज़ नहीं होंगे। Claude Code और Codex के लिए भी यही बात लागू होती है। आपके कंप्यूटर की क्षमता से सिर्फ़ उन स्थानीय कमांड का समय बदलता है, जैसे build और test। विस्तार से जानने के लिए “Claude Code और Codex के लिए ज़रूरी PC स्पेक” पढ़ें।

3. NPU इस्तेमाल करने वाली Windows सुविधाएँ (Copilot+ PC आदि)

NPU का असर सबसे साफ़ Windows 11 के Copilot+ PC की सुविधाओं में दिखता है। Copilot+ PC उस कंप्यूटर का नाम है जो Microsoft की तय की गई शर्तें पूरी करता है। शर्तें इस तरह हैं (Microsoft "Windows 11 specifications and system requirements")।

आइटमCopilot+ PC की न्यूनतम शर्त
प्रोसेसर40 TOPS या उससे ज़्यादा का NPU वाला प्रोसेसरअभी के योग्य मॉडल: AMD Ryzen AI 300 और 400 सीरीज़ / Intel Core Ultra 200V और 300V सीरीज़ / Snapdragon X सीरीज़
मेमोरी (RAM)16GB (DDR5 / LPDDR5)
स्टोरेज256GB (SSD / UFS)

TOPS का मतलब है एक सेकंड में होने वाली गणनाओं की संख्या (ट्रिलियन में)। इसे कैसे पढ़ें, यह पाँचवें अध्याय में है। Microsoft के अनुसार, 40 TOPS या उससे ज़्यादा NPU वाले लेकिन 16GB से कम मेमोरी वाले PC Copilot+ PC नहीं हैं। फिर भी, NPU सपोर्ट करने वाले ऐप उस NPU का इस्तेमाल कर सकते हैं।

Microsoft की सूची के अनुसार, केवल Copilot+ PC पर मिलने वाली मुख्य सुविधाएँ नीचे दी गई हैं। “इंटरनेट चाहिए” का मतलब है कि सुविधा के लिए Microsoft के क्लाउड से कनेक्शन और सुरक्षा जाँच के लिए अकाउंट चाहिए।

सुविधाविवरणनोट और सीमाएँ
Recall (प्रीव्यू)पहले स्क्रीन पर आई चीज़ों को शब्दों से खोजता हैWindows Hello का बेहतर साइन-इन चाहिए
बेहतर Windows Searchफ़ाइलों और सेटिंग्स को नाम के बजाय उनकी सामग्री के शब्दों से खोजता हैछह भाषाओं के लिए अनुकूलित
Click to Doस्क्रीन पर दिख रहे टेक्स्ट या इमेज चुनकर वहीं उन पर कार्रवाई करता हैउपलब्ध कार्रवाइयाँ डिवाइस, क्षेत्र और भाषा के हिसाब से अलग होती हैं
Live Captionsवीडियो और ऑडियो पर कैप्शन जोड़ता है और उनका अनुवाद करता है40 से ज़्यादा भाषाओं से अंग्रेज़ी में, और 27 भाषाओं से सरलीकृत चीनी में
Settings agentआप जो करना चाहते हैं उसे शब्दों में लिखें, तो वह संबंधित सेटिंग्स ढूँढकर बदल देता है10 भाषाएँ
Photos Super Resolution, Paint Object Select और Snipping Tool Perfect Screenshotइमेज की रेज़ॉल्यूशन बढ़ाना और कटआउट बनाना—
Paint Cocreator, Photos Image Creator आदिटेक्स्ट से इमेज बनाता या बदलता हैइंटरनेट चाहिए। अंग्रेज़ी निर्देशों के लिए अनुकूलित
Photos Relight, Paint Generative Fill और Auto Super Resolution (गेम)रोशनी बदलना, क्षेत्र भरना और गेम की रेज़ॉल्यूशन बढ़ानाकेवल Snapdragon X वाले Copilot+ PC पर

स्रोत: Microsoft "Windows 11 specifications and system requirements" में “Copilot+ PC की सभी सुविधाओं की सूची” (25 अक्टूबर 2026 को जाँची गई)। उपलब्धता क्षेत्र और डिवाइस के हिसाब से अलग हो सकती है।

Windows Studio Effects 10 TOPS से शुरू होता है

Windows Studio Effects कैमरे के वीडियो पर प्रभाव लगाता है (बैकग्राउंड ब्लर, आई कॉन्टैक्ट, ऑटोमैटिक फ़्रेमिंग और वॉइस फ़ोकस)। यह Copilot+ PC न होने पर भी काम करता है, बशर्ते आपके पास 10 TOPS या उससे ज़्यादा का NPU और कैमरा हो। Portrait Light जैसे अतिरिक्त प्रभाव केवल Snapdragon X वाले Copilot+ PC पर मिलते हैं (उसी Microsoft की विशिष्टताओं वाले पन्ने पर)। इन प्रभावों की प्रोसेसिंग NPU संभालता है।

Windows में मौजूद एक छोटा AI मॉडल

Copilot+ PC में Microsoft का छोटा भाषा मॉडल Phi Silica पहले से इंस्टॉल होता है, और वह NPU पर चलता है। यह वह मॉडल है जिसे Windows की सुविधाएँ और ऐप इंटरनेट से जुड़े बिना, आपके PC के अंदर, टेक्स्ट का सार निकालने या उसे दोबारा लिखने के लिए इस्तेमाल करते हैं। Microsoft के दस्तावेज़ NPU पर चलाने की तुलना GPU से करते हैं और कहते हैं कि NPU पर जवाब तेज़ आते हैं और बिजली भी कम लगती है। Microsoft Phi Silica को उसके उत्तराधिकारी मॉडल “Aion Instruct” से बदलने की योजना बना रहा है, और सामान्य PC के लिए इसकी योजना जनवरी 2027 की है (Microsoft Learn "Get started with Phi Silica")।

4. क्या लोकल LLM NPU पर चलता है?

“लोकल LLM” में आप AI मॉडल को अपने कंप्यूटर पर डाउनलोड करके चलाते हैं, और इसमें अभी भी GPU ही मुख्य है। ज़्यादातर लोकप्रिय टूल GPU पर चलने के लिए बने हैं, और केवल कुछ टूल NPU इस्तेमाल कर सकते हैं। आधिकारिक समर्थन की स्थिति इस प्रकार है (25 अक्टूबर 2026 को जाँची गई)।

टूलआधिकारिक दस्तावेज़ में NPU समर्थनमुख्य रूप से इस्तेमाल होने वाला हिस्सा
Ollamaऐपउल्लेख नहींआधिकारिक समर्थित हार्डवेयर के पन्ने में केवल GPU (NVIDIA, AMD, Apple, Vulkan) दिए गए हैंGPU
LM Studioऐपउल्लेख नहींआधिकारिक ऑपरेटिंग आवश्यकताओं में केवल CPU, मेमोरी और GPU VRAM दिए गए हैंGPU
Foundry LocalMicrosoft, डेवलपर के लिएसमर्थितWindows पर AMD और Qualcomm के NPU का समर्थन (Intel के लिए GPU) / हिस्से अपने-आप चुने जाते हैं, और न मिलने पर CPUNPU/GPUडिवाइस के अनुसार अपने-आप चुना जाता है
Ryzen AI SoftwareAMD, डेवलपर के लिएसमर्थितRyzen AI 300 और उसके बाद के मॉडल पर: केवल NPU, या NPU और इंटीग्रेटेड GPU साथ मिलाकरNPU + GPU
OpenVINOIntel, डेवलपर के लिएसमर्थितCPU, GPU या NPU चुना जा सकता है (NPU में इनपुट की लंबाई पर डिफ़ॉल्ट सीमा है)NPU/GPUचुना जा सकता है
llama.cppडेवलपर के लिएप्रायोगिकSnapdragon पर CPU, GPU और NPU (Hexagon) तीनों का समर्थन है, और NPU का समर्थन प्रायोगिक हैGPU

स्रोत: Ollama "Hardware support", LM Studio "System Requirements", llama.cpp "Snapdragon", Microsoft Learn "Foundry Local architecture", AMD "Ryzen AI Software: LLMs", OpenVINO "Inference with GenAI on NPU"।

ध्यान दें कि PC पर चलने वाले कुछ AI के लिए NPU की ज़रूरत नहीं होती। ब्राउज़र Chrome में एक छोटा Gemini मॉडल (Gemini Nano) शामिल है, जो आपके PC पर चलता है। लेकिन Google जो शर्तें बताता है वे हैं “4 GB से ज़्यादा VRAM वाला GPU” या “16 GB या उससे ज़्यादा मेमोरी और 4 या उससे ज़्यादा कोर वाला CPU”, और इन शर्तों में NPU शामिल नहीं है (Chrome for Developers)।

AMD बताता है कि NPU और इंटीग्रेटेड GPU एक साथ इस्तेमाल होने पर, इनपुट पढ़ने का पहला चरण NPU संभालता है, और टेक्स्ट बनाने का दूसरा चरण GPU। काम का बँटवारा यह है कि NPU ज़्यादा गणना वाले कामों के लिए अच्छा है, जबकि लगातार मेमोरी पढ़ने वाले कामों के लिए GPU बेहतर है।

लोकल LLM चलाना चाहते हैं, तो आपको NPU का TOPS नहीं, बल्कि GPU की मेमोरी (VRAM) और कंप्यूटर की मेमोरी की मात्रा देखनी चाहिए। मोटे अनुमान के लिए “लोकल LLM के लिए ज़रूरी स्पेक” पढ़ें, और शुरुआत कैसे करें, इसके लिए “लोकल LLM कैसे चलाएँ”।

5. प्रदर्शन की संख्या “TOPS” कैसे पढ़ें

NPU का प्रदर्शन TOPS (Tera Operations Per Second) में बताया जाता है। यह एक सेकंड में होने वाली गणनाओं की संख्या है (ट्रिलियन में), इसलिए “50 TOPS” का मतलब है प्रति सेकंड 50 ट्रिलियन गणनाएँ। नीचे प्रमुख चिपों के NPU के मान, निर्माताओं द्वारा घोषित संख्या (हर चिप मॉडल का अधिकतम मान) के अनुसार दिए गए हैं। लाल डैश वाली रेखा Copilot+ PC की 40 TOPS की शर्त दिखाती है। हर निर्माता सटीकता (precision) अलग तरीके से मापता है, इसलिए इन संख्याओं को केवल मोटे आकार के अनुमान के रूप में देखें (नीचे नोट 2 देखें)।

स्रोत: Qualcomm (उत्पाद दस्तावेज़ में "Hexagon NPU TOPS (INT8)" वाली पंक्ति), AMD (CES 2026 की घोषणा), Intel (CES 2026 की घोषणा)।

  • ये सभी मान हर चिप परिवार के भीतर के अधिकतम मान हैं, और छोटे मॉडल इनसे कम होते हैं (Snapdragon X2 Elite 80 है, और Ryzen AI 400 मॉडल के हिसाब से 50 से 60 के बीच है)।
  • कोई PC Copilot+ PC के योग्य है या नहीं, यह जाँचने का सबसे भरोसेमंद तरीका है Microsoft की सूची के नाम और PC की विशिष्टताओं की तालिका में “Copilot+ PC” का उल्लेख मिलाना (Intel के लिए सूची में “200V और 300V सीरीज़” लिखा है, जो Intel की अपनी “सीरीज़ 3” वाली नामकरण पद्धति से अलग है)। Qualcomm के दस्तावेज़ बताते हैं कि Snapdragon X2 Elite Copilot+ PC के लिए बना है।
  • योग्य Copilot+ PC की सूची में शामिल पिछली पीढ़ियों (Ryzen AI 300, Core Ultra 200V, Snapdragon X) का NPU भी शर्त के अनुसार 40 TOPS या उससे ज़्यादा है। Mac का M4 38 TOPS का है (छठा अध्याय)।

TOPS की तुलना करते समय तीन सावधानियाँ

  1. यह केवल NPU की संख्या है या पूरी चिप की? Intel और AMD CPU, GPU और NPU को जोड़कर “पूरे प्लेटफ़ॉर्म का TOPS” भी घोषित करते हैं। उदाहरण के लिए, Intel के डेस्कटॉप के Core Ultra 200S में NPU अधिकतम 13 है और पूरा प्लेटफ़ॉर्म अधिकतम 36 है (Intel "Core Ultra 200S Product Brief")। विज्ञापनों की बड़ी संख्या पूरी चिप की हो सकती है, इसलिए Copilot+ PC की शर्त से तुलना करते समय NPU का मान देखें।
  2. गणना की बारीकी (सटीकता) एक जैसी नहीं है। Qualcomm ने बताया है कि उसका NPU मान INT8 (8-बिट पूर्णांक) में मापा गया है, लेकिन AMD और Intel की घोषणाओं में सटीकता का उल्लेख नहीं है। NVIDIA के GPU के “AI TOPS” मोटे FP4 फ़ॉर्मेट में हैं, और ये उस मान हैं जब गणना में शून्य वाले हिस्से छोड़ने की सुविधा (sparsity) इस्तेमाल हो। NVIDIA के दस्तावेज़ में डेस्कटॉप के RTX 5090 के लिए “1676/3352” दो मान दिए गए हैं, और बड़ा मान इस सुविधा के साथ का है (NVIDIA RTX Blackwell technical materials)। लैपटॉप के RTX 50 सीरीज़ के AI TOPS 440 से 1,824 तक हैं (NVIDIA), पर इन्हें NPU के मान के साथ रखकर “इतने गुना” नहीं कहा जा सकता।
  3. TOPS सैद्धांतिक अधिकतम मान है। Intel के उसी दस्तावेज़ के अनुसार TOPS का अर्थ है “100% दक्षता पर चलने पर सैद्धांतिक अधिकतम”। असल रफ़्तार इस पर निर्भर करती है कि ऐप NPU सपोर्ट करता है या नहीं, मेमोरी कितनी तेज़ है, और बिजली की सेटिंग क्या है।

6. Mac का Neural Engine

Apple silicon वाले Mac (M1 और उसके बाद) में Neural Engine होता है, जो NPU के बराबर है। Apple ने घोषणा की कि M4 का Neural Engine प्रति सेकंड 38 ट्रिलियन गणनाएँ करता है, लेकिन M5 और उसके बाद के चिपों के लिए उसने TOPS के मान नहीं दिए हैं। M5 में Apple ने हर GPU कोर में भी AI की गति बढ़ाने की व्यवस्था जोड़ी है, और AI प्रदर्शन में हुई बढ़त को मुख्य रूप से GPU के रूप में समझाया है (Apple "M5" announcement)।

Mac पर AI सुविधाएँ इस्तेमाल करने की कसौटी TOPS नहीं, बल्कि समर्थित मॉडल की सूची है। Apple Intelligence M1 या उसके बाद के Mac पर चलता है; समर्थित भाषाओं की सूची Apple के पेज पर है (Apple Support "Apple Intelligence availability")। अगर आपके पास M1 या उसके बाद का Mac है, तो Windows के Copilot+ PC जैसी NPU प्रदर्शन की सीमा की चिंता करने की ज़रूरत नहीं है।

Mac पर लोकल LLM चलाते समय भी मुख्य रूप से GPU इस्तेमाल होता है, Neural Engine नहीं। Ollama के दस्तावेज़ में Mac के लिए समर्थन Apple के GPU (Metal) का है, और Microsoft का Foundry Local भी Mac पर GPU इस्तेमाल करता है (Microsoft Learn)। Mac का GPU कंप्यूटर की मेमोरी (unified memory) इस्तेमाल करता है, इसलिए कौन-सा मॉडल चल सकता है, यह मेमोरी की मात्रा से तय होता है।

7. क्या NPU वाला कंप्यूटर चुनना चाहिए? निर्णय के चरण

Intel, AMD और Qualcomm ने 2026 में लैपटॉप के लिए जो मुख्य चिप निकाले हैं, उन सभी में NPU है। असली सवाल दो हैं: “क्या मैं Copilot+ PC की शर्तें पूरी करने वाला मॉडल लूँ?” और “पैसा NPU पर लगाऊँ या GPU पर?” नीचे दिए चरणों को क्रम से सोचने से फ़ैसला आसान होगा।

  1. क्या आप अपने PC पर चलने वाला AI इस्तेमाल करने की सोच रहे हैं?
    नहीं (केवल चैट या Claude Code जैसी क्लाउड सेवाएँ)NPU फ़ैसले का आधार नहीं है। मेमोरी, SSD, स्क्रीन और वज़न के आधार पर चुनें
    हाँ अगले चरण पर जाएँ
  2. क्या आप Mac लेंगे?
    हाँM1 या उसके बाद के मॉडल पर Apple Intelligence मिलता है, और TOPS की कोई सीमा नहीं है। (अगर लोकल LLM भी चलाना है, तो यूनिफ़ाइड मेमोरी की मात्रा को प्राथमिकता दें: छठा अध्याय)
    नहीं (Windows) अगले चरण पर जाएँ
  3. क्या आप Windows की AI सुविधाएँ इस्तेमाल करना चाहते हैं?
    Recall या Live Captions का अनुवाद भी चाहिए“Copilot+ PC” लिखा मॉडल चुनें (NPU 40 TOPS या उससे ज़्यादा, 16 GB मेमोरी, 256 GB SSD) → अगले चरण पर जाएँ
    केवल बैकग्राउंड ब्लर जैसे Studio Effects10 TOPS या उससे ज़्यादा का NPU काफ़ी है → अगले चरण पर जाएँ
    इस्तेमाल नहीं करूँगाNPU फ़ैसले का आधार नहीं है → अगले चरण पर जाएँ
  4. क्या आप AI मॉडल अपने PC पर चलाना चाहते हैं?
    हाँNPU से ज़्यादा GPU की VRAM और मेमोरी की मात्रा को प्राथमिकता दें (चौथा अध्याय)
    नहींAI के लिए GPU पर अतिरिक्त खर्च करने की ज़रूरत नहीं है

खरीदने से पहले PC निर्माता की विशिष्टताओं की तालिका में “Copilot+ PC” का उल्लेख और चिप का मॉडल देखें, और चिप निर्माता के उत्पाद पेज पर NPU का TOPS जाँचें। आपके पास पहले से मौजूद PC या दुकान के डेमो मॉडल के लिए, Windows 11 के Task Manager में “Performance” के अंतर्गत NPU की प्रविष्टि दिखती है या नहीं, इससे पता चलता है कि NPU है या नहीं। यह जानने के लिए कि Studio Effects उपलब्ध है या नहीं, Settings > Bluetooth & devices > Camera पर जाएँ, कैमरा चुनें, और देखें कि Studio Effects के विकल्प दिखते हैं या नहीं। (Microsoft का सपोर्ट पेज बताता है कि अगर वे विकल्प न दिखें, तो हो सकता है PC में NPU न हो: Microsoft Support।)

सारांश

  • NPU कंप्यूटर के अंदर का एक समर्पित चिप है, जो कम बिजली में AI की गणनाएँ लगातार चलाता है
  • ChatGPT, Claude, Gemini जैसी सेवाएँ अपनी गणनाएँ सर्वर पर करती हैं, इसलिए NPU हो या न हो, रफ़्तार एक जैसी रहती है
  • NPU Windows के Copilot+ PC की सुविधाओं (शर्तें: NPU 40 TOPS या उससे ज़्यादा, 16 GB मेमोरी, 256 GB SSD), Studio Effects (10 TOPS या उससे ज़्यादा) और अपने PC पर चलने वाले अन्य AI में काम आता है
  • लोकल LLM में अभी भी GPU और मेमोरी ही मुख्य हैं। Foundry Local और कुछ निर्माताओं के टूल जैसे केवल कुछ ही टूल NPU इस्तेमाल कर सकते हैं
  • TOPS के मान “केवल NPU या पूरी चिप” और “सटीकता” के मामले में एक जैसे नहीं हैं, इसलिए निर्माताओं के बीच सीधी तुलना नहीं की जा सकती
  • Mac के लिए TOPS के बजाय समर्थित मॉडल से फ़ैसला करें (Apple Intelligence के लिए M1 या उसके बाद चाहिए), और लोकल LLM के लिए मेमोरी की मात्रा अहम है

FAQ

Q. क्या NPU न होने वाले PC पर AI इस्तेमाल नहीं हो सकता?

हो सकता है। ChatGPT, Claude, Gemini जैसी सेवाएँ सर्वर पर चलती हैं, इसलिए NPU न होने वाले PC पर भी इन्हें उसी तरह इस्तेमाल किया जा सकता है। NPU की ज़रूरत कुछ ऐसी सुविधाओं के लिए होती है जो आपके PC पर चलने के लिए बनी हैं, जैसे Windows की Copilot+ PC सुविधाएँ।

Q. क्या NPU का TOPS जितना ज़्यादा, उतना बेहतर है?

एक ही निर्माता और एक ही गिनती के तरीके के भीतर यह एक उपयोगी मार्गदर्शक है। लेकिन अगर आप जो ऐप इस्तेमाल करते हैं वह NPU सपोर्ट नहीं करता, तो संख्या का कोई असर नहीं होता। Copilot+ PC की सुविधाएँ इस्तेमाल करनी हैं, तो TOPS की संख्या देखने के बजाय यह देखना काफ़ी है कि PC पर “Copilot+ PC” लिखा है या नहीं (उसमें NPU 40 TOPS या उससे ज़्यादा, 16 GB मेमोरी और 256 GB SSD, तीनों होने चाहिए)।

Q. AI के लिए गेमिंग GPU वाला PC बेहतर है या NPU वाला PC?

लोकल LLM या इमेज जनरेशन जैसे भारी AI अपने पास चलाने के लिए ज़्यादा VRAM वाला GPU बेहतर है। NPU बैकग्राउंड ब्लर या ट्रांसक्रिप्शन जैसे हल्के AI को बैटरी की खपत कम रखते हुए लगातार चलाने के लिए अच्छा है।

Q. क्या Mac में भी NPU होता है?

हाँ। Apple silicon (M1 और उसके बाद) का Neural Engine NPU के बराबर है। Mac पर TOPS के बजाय समर्थित मॉडल के आधार पर सोचना आसान है। Apple Intelligence M1 या उसके बाद के Mac पर चलता है।

Q. क्या Copilot+ PC न होने पर भी Copilot इस्तेमाल किया जा सकता है?

हाँ। Copilot ऐप और Microsoft 365 Copilot क्लाउड पर चलते हैं, इसलिए Copilot+ PC न होने पर भी इन्हें इस्तेमाल किया जा सकता है। Copilot+ PC उन सुविधाओं के लिए ज़रूरी है जो आपके PC के अंदर AI चलाती हैं, जैसे Recall और बेहतर Windows Search।