Was ist eine NPU? Ist sie für den PC nötig? Bedeutung von 40 TOPS und Einsatz bei KI

Eine NPU (Neural Processing Unit) ist ein eigener Chip im Computer, der KI-Berechnungen mit weniger Strom erledigt. Viele aktuelle Notebooks haben eine. ChatGPT, Claude und Gemini führen ihre Berechnungen jedoch auf Servern aus, daher ändert sich die Geschwindigkeit nicht, egal ob eine NPU vorhanden ist oder nicht. Eine NPU ist nützlich, wenn man Funktionen nutzt, die KI auf dem eigenen Computer ausführen, etwa die Copilot+-PC-Funktionen von Windows oder die Hintergrundunschärfe bei Videokonferenzen.

Dieser Artikel erklärt anhand offizieller Unterlagen von Microsoft, Intel, AMD, Qualcomm, Apple und anderen (geprüft am 25. Oktober 2026), was eine NPU ist, welche Funktionen die NPU nutzen, wie sich die Leistungsangabe TOPS lesen lässt und wie du entscheidest, ob du einen PC mit NPU wählen solltest. Zu Macs siehe Kapitel 6. Die Bausteine sind farblich gekennzeichnet: NPU GPU Cloud.

1. Was ist eine NPU? Unterschiede zu CPU und GPU

Im Computer gibt es drei Bausteine, die KI-Berechnungen ausführen können. KI-Berechnungen bestehen vor allem aus sehr vielen Multiplikationen und Additionen, die gleichzeitig ablaufen. Alle drei Bausteine können rechnen, aber sie haben unterschiedliche Stärken und einen unterschiedlichen Stromverbrauch.

Die Bezeichnung unterscheidet sich je nach Hersteller (Intel, AMD und Qualcomm sagen NPU, Apple sagt Neural Engine). In aktuellen PC-Chips sind CPU, GPU und NPU in einem einzigen Chip zusammengefasst.

Wichtig ist: Eine NPU arbeitet nur dann, wenn die App dafür gebaut ist, sie zu nutzen. Auch Microsofts Entwicklerunterlagen besagen, dass eine App die NPU unterstützen muss. Selbst wenn ein PC eine NPU hat, laufen Apps, die sie nicht unterstützen, auf der CPU oder GPU. Unter Windows 11 wird die NPU-Auslastung im Task-Manager unter „Leistung“ angezeigt. So kannst du prüfen, ob die NPU läuft, während du KI-Funktionen nutzt (Microsoft „Copilot+ PCs developer guide“).

2. Nutzen ChatGPT, Claude und Gemini die NPU?

Die Apps und Webversionen von ChatGPT, Claude und Gemini schicken deine Fragen an Server im Internet, auf denen große Modelle die Antworten erzeugen. Die NPU und die GPU deines PCs werden für das Erzeugen der Antworten nicht genutzt, deshalb gehören sie nicht zu den Betriebsvoraussetzungen. Die Windows-App von ChatGPT etwa nennt als Voraussetzung nur die Windows-Version (OpenAI Help). Auch Microsoft 365 Copilot schickt Anfragen an Sprachmodelle in Microsofts Rechenzentren (Microsoft Learn).

Wenn sich ChatGPT oder Claude also langsam anfühlt, wird es mit einem PC mit NPU nicht schneller. Bei Claude Code und Codex ist es genauso. Was die Leistung deines PCs verändert, ist die Zeit für lokale Befehle wie Builds und Tests. Details dazu findest du unter „Benötigte PC-Ausstattung für Claude Code und Codex“.

3. Windows-Funktionen, die die NPU nutzen (Copilot+ PCs und mehr)

Den deutlichsten Effekt hat die NPU bei den Funktionen von Copilot+ PCs unter Windows 11. Ein Copilot+ PC ist die Bezeichnung für einen PC, der von Microsoft festgelegte Bedingungen erfüllt. Diese lauten wie folgt (Microsoft „Windows 11 specifications and system requirements“).

TOPS ist die Anzahl der Rechenoperationen pro Sekunde, angegeben in Billionen. Wie du die Zahl liest, erfährst du in Kapitel 5. Microsoft stellt klar, dass PCs mit einer NPU von 40 TOPS oder mehr, aber mit weniger als 16 GB Arbeitsspeicher keine Copilot+ PCs sind. Auch dann kann eine App, die die NPU unterstützt, sie nutzen.

Die wichtigsten Funktionen, die nur auf Copilot+ PCs verfügbar sind, sind in der Liste von Microsoft zusammengefasst. „Internet erforderlich“ bedeutet, dass die Funktion eine Verbindung zur Microsoft-Cloud und ein Konto für Sicherheitsprüfungen benötigt.

Quelle: Microsoft „Windows 11 specifications and system requirements“, die „list of all Copilot+ PC features“ (geprüft am 25. Oktober 2026). Die Verfügbarkeit hängt von Region und Gerät ab.

Windows-Studioeffekte ab 10 TOPS

Die Windows-Studioeffekte, die Effekte auf das Kamerabild legen (Hintergrundunschärfe, Blickkontakt, automatische Bildausschnitt-Anpassung und Sprachfokus), funktionieren auch ohne Copilot+ PC, wenn du eine NPU mit 10 TOPS oder mehr und eine Kamera hast. Zusätzliche Effekte wie Porträtlicht gibt es nur auf Copilot+ PCs mit Snapdragon X (gleiche Microsoft-Seite zu den Spezifikationen). Die Verarbeitung dieser Effekte übernimmt die NPU.

Ein kleines KI-Modell in Windows

Auf Copilot+ PCs ist das kleine Sprachmodell Phi Silica von Microsoft bereits installiert, und es läuft auf der NPU. Es ist das Modell, mit dem Windows-Funktionen und Apps Texte zusammenfassen und umformulieren, ohne dass eine Internetverbindung nötig ist. Microsofts Unterlagen vergleichen den Betrieb auf der NPU mit dem auf der GPU und halten fest, dass die NPU schneller antwortet und weniger Strom verbraucht. Microsoft plant, Phi Silica durch das Nachfolgemodell „Aion Instruct“ zu ersetzen, für allgemeine PCs ist dafür Januar 2027 vorgesehen (Microsoft Learn „Get started with Phi Silica“).

4. Läuft ein lokales LLM auf der NPU?

Bei „lokalen LLMs“, bei denen du ein KI-Modell auf deinen eigenen Computer lädst und dort ausführst, ist weiterhin die GPU die Hauptkomponente. Viele verbreitete Tools sind so gebaut, dass sie auf der GPU laufen, und nur einige Tools können die NPU nutzen. Der offizielle Stand der Unterstützung lautet wie folgt (geprüft am 25. Oktober 2026).

Quellen: Ollama „Hardware support“, LM Studio „System Requirements“, llama.cpp „Snapdragon“, Microsoft Learn „Foundry Local architecture“, AMD „Ryzen AI Software: LLMs“, OpenVINO „Inference with GenAI on NPU“.

Beachte, dass manche KI, die auf deinem PC läuft, keine NPU voraussetzt. Der Browser Chrome enthält ein kleines Gemini-Modell (Gemini Nano), das auf deinem PC läuft. Google nennt dafür jedoch die Bedingungen „eine GPU mit mehr als 4 GB VRAM“ oder „eine CPU mit 16 GB oder mehr Arbeitsspeicher und 4 oder mehr Kernen“. Die NPU gehört nicht zu den Bedingungen (Chrome for Developers).

Wenn NPU und integrierte GPU zusammenarbeiten, erklärt AMD, dass die NPU die erste Stufe übernimmt, das Einlesen der Eingabe, und die GPU die zweite Stufe, das Erzeugen des Textes. Die Aufteilung: Die NPU eignet sich für Aufgaben mit viel Rechenaufwand, während die GPU für Aufgaben besser ist, bei denen laufend Speicher gelesen wird.

Wer ein lokales LLM betreiben möchte, sollte nicht auf die TOPS der NPU schauen, sondern auf den VRAM der GPU und die Menge des Arbeitsspeichers. Eine Orientierung bietet „Benötigte Ausstattung für lokale LLMs“, den Einstieg beschreibt „Lokale LLMs ausführen“.

5. Die Leistungsangabe TOPS richtig lesen

Die Leistung einer NPU wird in TOPS angegeben (Tera Operations Per Second). Das ist die Anzahl der Operationen pro Sekunde, in Billionen. „50 TOPS“ bedeutet also 50 Billionen Operationen pro Sekunde. Die folgende Grafik zeigt die NPU-Werte wichtiger Chips nach den Angaben der Hersteller (jeweils der Höchstwert des Modells). Die rote gestrichelte Linie markiert die Anforderung von 40 TOPS für Copilot+ PCs. Die Hersteller messen die Genauigkeit unterschiedlich, deshalb verstehe die Werte nur als groben Größenvergleich (siehe Hinweis 2 unten).

Quellen: Qualcomm (die Zeile „Hexagon NPU TOPS (INT8)“ in den Produktunterlagen), AMD (Ankündigung zur CES 2026), Intel (Ankündigung zur CES 2026).

• Alle Angaben sind Höchstwerte innerhalb der Modellreihe, kleinere Modelle sind schwächer (Snapdragon X2 Elite liegt bei 80, Ryzen AI 400 je nach Modell bei 50 bis 60).
• Ob ein PC als Copilot+ PC gilt, prüfst du am sichersten, indem du die Namen in Microsofts Liste (Intel wird als „200V- und 300V-Serie“ geführt, was sich von Intels eigener Bezeichnung „Serie 3“ unterscheidet) und die Angabe „Copilot+ PC“ im Datenblatt des PCs vergleichst. Laut Qualcomm ist der Snapdragon X2 Elite für Copilot+ PCs vorgesehen.
• Auch die früheren Generationen, die als Copilot+ PCs gelten (Ryzen AI 300, Core Ultra 200V, Snapdragon X), haben wie gefordert eine NPU mit 40 TOPS oder mehr. Apples M4 hat 38 TOPS (Kapitel 6).

Drei Vorsichtspunkte beim Vergleich von TOPS

1. Handelt es sich um den Wert der NPU allein oder um den des gesamten Chips? Intel und AMD veröffentlichen auch „TOPS der gesamten Plattform“, die CPU, GPU und NPU zusammenzählen. Intels Desktop-Chip Core Ultra 200S hat beispielsweise bis zu 13 TOPS für die NPU und bis zu 36 für die gesamte Plattform (Intel „Core Ultra 200S Product Brief“). Große Zahlen in der Werbung können Werte des gesamten Chips sein. Vergleichst du mit der Anforderung für Copilot+ PCs, schaust du deshalb auf den NPU-Wert.
2. Die Genauigkeit der Berechnungen ist nicht einheitlich. Qualcomm gibt an, dass der NPU-Wert mit INT8 (8-Bit-Ganzzahlen) gemessen wurde. Die Ankündigungen von AMD und Intel nennen dagegen keine Genauigkeit. Die „AI TOPS“ der NVIDIA-GPUs beruhen auf dem gröberen Format FP4 und auf dem Wert bei Nutzung der Funktion, die Nullen bei der Berechnung überspringt (Sparsity). In den Unterlagen von NVIDIA stehen bei der Desktop-Karte RTX 5090 zwei Werte „1676/3352“, der größere gilt mit dieser Funktion (NVIDIA RTX Blackwell technical materials). Die AI TOPS der Notebook-GPUs der RTX-50-Serie liegen bei 440 bis 1.824 (NVIDIA), man kann sie aber nicht einfach als „das Vielfache“ des NPU-Werts bezeichnen.
3. TOPS ist ein theoretischer Höchstwert. Intels gleiche Unterlagen erklären TOPS als „theoretisches Maximum bei 100 % Effizienz“. Die tatsächliche Geschwindigkeit hängt davon ab, ob die App die NPU unterstützt, wie schnell der Speicher ist und welche Stromeinstellungen gelten.

6. Die Neural Engine des Mac

Macs mit Apple-Silicon-Chips (M1 und neuer) enthalten die Neural Engine, die der NPU entspricht. Apple hat angegeben, dass die Neural Engine des M4 38 Billionen Operationen pro Sekunde schafft. Für M5 und neuer veröffentlicht Apple keine TOPS-Werte mehr. Beim M5 hat Apple jedem GPU-Kern eine Beschleunigung für KI-Berechnungen hinzugefügt und erklärt den Zuwachs bei der KI-Leistung vor allem mit der GPU (Apple „M5“-Ankündigung).

Für die Nutzung von KI-Funktionen auf dem Mac ist die Liste der unterstützten Modelle die Orientierung, nicht die TOPS. Apple Intelligence funktioniert auf Macs ab M1; die unterstützten Sprachen listet Apple auf (Apple Support „Apple Intelligence availability“). Wenn du einen Mac mit M1 oder neuer hast, musst du dich nicht um die NPU-Leistungsgrenzen kümmern, die bei Copilot+ PCs unter Windows gelten.

Auch beim Betrieb eines lokalen LLMs auf dem Mac ist meist die GPU und nicht die Neural Engine die Hauptkomponente. Die Mac-Unterstützung in Ollamas Unterlagen ist Apples GPU (Metal), und Microsofts Foundry Local nutzt auf dem Mac ebenfalls die GPU (Microsoft Learn). Da die GPU des Mac den Arbeitsspeicher des Computers (Unified Memory) nutzt, bestimmt die Speichermenge, wie groß das Modell sein darf.

7. Sollte man einen PC mit NPU wählen? Entscheidungsschritte

Die wichtigsten Notebook-Chips, die Intel, AMD und Qualcomm 2026 auf den Markt gebracht haben, enthalten alle eine NPU. Zu entscheiden sind vor allem zwei Fragen: „Soll ich ein Modell wählen, das die Anforderungen für Copilot+ PCs erfüllt?“ und „Gebe ich mein Geld eher für die NPU oder für die GPU aus?“ Mit den folgenden Schritten in dieser Reihenfolge fällt die Entscheidung leichter.

1. Planst du, KI auf deinem eigenen PC zu nutzen?
   Nein (nur Cloud-Dienste wie Chat oder Claude Code) Die NPU ist für deine Entscheidung nicht ausschlaggebend. Du kannst nach Arbeitsspeicher, SSD, Bildschirm und Gewicht wählen

   Ja Weiter zum nächsten Schritt
2. Wirst du einen Mac wählen?
   Ja Ab M1 ist Apple Intelligence verfügbar, und es gibt keine TOPS-Grenze. (Wenn du auch lokale LLMs betreiben willst, achte vorrangig auf die Menge des Unified Memory: Kapitel 6)

   Nein (Windows) Weiter zum nächsten Schritt
3. Möchtest du die KI-Funktionen von Windows nutzen?
   Du möchtest auch Recall oder die Übersetzung mit Live-Untertiteln nutzen Wähle ein Gerät mit der Angabe „Copilot+ PC“ (NPU mit 40 TOPS oder mehr, 16 GB Arbeitsspeicher, 256 GB SSD) → Weiter zum nächsten Schritt

   Nur Studioeffekte wie Hintergrundunschärfe Eine NPU mit 10 TOPS oder mehr reicht → Weiter zum nächsten Schritt

   Ich verwende sie nicht Die NPU ist für deine Entscheidung nicht ausschlaggebend → Weiter zum nächsten Schritt
4. Möchtest du KI-Modelle auf deinem eigenen PC ausführen?
   Ja Achte vorrangig auf den VRAM der GPU und die Menge des Arbeitsspeichers statt auf die NPU (Kapitel 4)

   Nein Du musst für KI nicht extra in eine GPU investieren

Vor dem Kauf prüfst du im Datenblatt des PC-Herstellers die Angabe „Copilot+ PC“ und die Chip-Bezeichnung und schaust auf der Produktseite des Chipherstellers nach dem NPU-TOPS-Wert. Bei einem PC, den du schon hast, oder einem Ausstellungsgerät im Laden erkennst du am Reiter „Leistung“ im Task-Manager unter Windows 11, ob es eine NPU gibt. Ob die Studioeffekte verfügbar sind, siehst du unter Einstellungen > Bluetooth und Geräte > Kamera: Wähle deine Kamera aus und prüfe, ob die Optionen für Studioeffekte erscheinen (erscheinen sie nicht, hat der PC womöglich keine NPU, so Microsofts Support).

Zusammenfassung

FAQ

Q. Kann ich KI auch auf einem PC ohne NPU nutzen?

Ja. ChatGPT, Claude, Gemini und ähnliche Dienste laufen auf Servern, du kannst sie also auch auf einem PC ohne NPU genauso nutzen. Eine NPU brauchst du nur für einige Funktionen, die dafür gedacht sind, auf deinem PC zu laufen, etwa die Copilot+-PC-Funktionen von Windows.

Q. Ist eine höhere NPU-TOPS-Zahl immer besser?

Innerhalb desselben Herstellers und derselben Zählweise ist sie eine brauchbare Orientierung. Wenn deine App die NPU aber nicht unterstützt, hat die Zahl keine Wirkung. Wenn du Copilot+-PC-Funktionen nutzen willst, genügt es, zu prüfen, ob der PC als „Copilot+ PC“ gekennzeichnet ist, statt auf den TOPS-Wert zu schauen. Er muss alle Bedingungen erfüllen: NPU mit 40 TOPS oder mehr, 16 GB Arbeitsspeicher und 256 GB SSD.

Q. Was ist für KI besser: ein PC mit Gaming-GPU oder ein PC mit NPU?

Für schwere KI, die du lokal ausführst, etwa lokale LLMs oder Bildgenerierung, ist eine GPU mit mehr VRAM stärker. Die NPU eignet sich für leichte KI wie Hintergrundunschärfe oder Transkription, die du dauerhaft und bei geringem Akkuverbrauch laufen lässt.

Q. Hat ein Mac auch eine NPU?

Ja. Die Neural Engine der Apple-Silicon-Chips (M1 und neuer) entspricht der NPU. Auf dem Mac ist es einfacher, nach unterstützten Modellen zu entscheiden als nach TOPS. Apple Intelligence funktioniert auf Macs ab M1.

Q. Kann ich Copilot auch ohne Copilot+ PC nutzen?

Ja. Die Copilot-App und Microsoft 365 Copilot laufen in der Cloud, du kannst sie also auch ohne Copilot+ PC nutzen. Einen Copilot+ PC brauchst du für Funktionen, die KI auf deinem PC ausführen, etwa Recall oder die verbesserte Windows-Suche.