CPU, GPU und NPU: Aufgaben der Prozessoren und wann sie wichtig sind

CPU, GPU und NPU sind keine drei Stufen auf einer einheitlichen Skala der Rechenleistung. Es handelt sich um Verarbeitungseinheiten mit unterschiedlichen Designs und Aufgaben: Die CPU bewältigt viele verschiedene Befehle, die GPU ist stark, wenn zahlreiche Vorgänge parallel ausgeführt werden können, und die NPU ist auf Operationen spezialisiert, die in bestimmten Modellen künstlicher Intelligenz häufig vorkommen. Der Vorteil hängt von der Aufgabe ab, nicht allein vom Namen im Datenblatt.

In einem Computer können diese Komponenten in einem Chip integriert oder auf mehrere Bauteile verteilt sein. Eine integrierte GPU befindet sich im selben Prozessorpaket wie der Hauptprozessor; eine dedizierte GPU ist eine separate Komponente. Beide können Grafiken verarbeiten, doch Leistung und Energiegrenzen hängen vom jeweiligen Design ab. Integration bedeutet nicht, dass keine GPU vorhanden ist: Es gibt lediglich keine separate Grafikkarte.

Ein hilfreiches Bild sind Teams mit verschiedenen Schwerpunkten: Die CPU erledigt vielfältige Aufgaben und koordiniert, die GPU verteilt teilbare Arbeit auf viele Einheiten, und die NPU führt bestimmte KI-Operationen effizient aus. Der Vergleich hat Grenzen: Eine Anwendung kann mehr als eine Einheit verwenden, und Betriebssystem sowie Software bestimmen, wie die Arbeit verteilt wird.

Die CPU führt Befehle des Betriebssystems und der Anwendungen aus und ist für den normalen Betrieb des Computers unverzichtbar. Beim Surfen, Öffnen von Programmen, Verwalten von Dateien und Ausführen verschiedener Berechnungen wird die CPU beansprucht, auch wenn eine bestimmte Aufgabe Teile davon an andere Prozessoren auslagern kann. Ihre größte Stärke ist die Flexibilität: Sie kann sehr unterschiedliche Arten von Vorgängen bewältigen, darunter solche, die sich nicht einfach in gleichzeitige Aufgaben aufteilen lassen.

Die CPU führt Befehle des Betriebssystems und der Anwendungen aus und ist für den normalen Betrieb des Computers unverzichtbar. Beim Surfen, Öffnen von Programmen, Verwalten von Dateien und Ausführen verschiedener Berechnungen wird die CPU beansprucht, auch wenn eine bestimmte Aufgabe Teile davon an andere Prozessoren auslagern kann. Ihre größte Stärke ist die Flexibilität: Sie kann sehr unterschiedliche Arten von Vorgängen bewältigen, darunter solche, die sich nicht einfach in gleichzeitige Aufgaben aufteilen lassen.

Die CPU führt die Befehle von Programmen und Betriebssystemen aus. Ihre Leistung trägt dazu bei, wie schnell Aufgaben wie Surfen, Berechnungen oder Tabellenarbeit erledigt werden. Die GPU ersetzt diese allgemeine Rolle nicht, kann aber bei Aufgaben mit der CPU zusammenarbeiten, die von paralleler Verarbeitung profitieren.

Die GPU wurde für die Verarbeitung von Grafiken entwickelt, bei der ähnliche Vorgänge auf viele Bildelemente angewendet werden können. Diese Bauweise eignet sich auch für andere parallelisierbare Workloads, etwa bestimmte Videoverarbeitung, wissenschaftliche Berechnungen oder KI-Aufgaben. Parallelverarbeitung ist ihr zentraler Vorteil: Eine GPU kann große Mengen kompatibler Vorgänge gleichzeitig bearbeiten, während die CPU die Koordination und den Code übernimmt, der sich nicht sinnvoll aufteilen lässt.

Eine Beschleunigung entsteht nicht allein dadurch, dass ein Computer eine GPU besitzt. Die Anwendung muss für deren Nutzung ausgelegt sein; auch Programmiermodell, Treiber und kompatible Bibliotheken beeinflussen das Ergebnis. NVIDIA beschreibt beschleunigtes Rechnen als Auslagerung der rechenintensivsten Teile einer Anwendung auf die GPU, während der übrige Code auf der CPU ausgeführt wird. Die Software muss die Arbeit gezielt auslagern können, damit spezialisierte Hardware einen Vorteil bringt.

Eine integrierte GPU eignet sich häufig für kompakte Computer und kann den Stromverbrauch begrenzen. Eine dedizierte GPU kann bei anspruchsvollen Grafik-Workloads mehr Ressourcen bieten, benötigt dafür aber zusätzlichen Strom und Platz und erzeugt mehr Wärme. Keine der beiden Kategorien garantiert für sich ein bestimmtes Leistungsniveau; die Designs unterscheiden sich stark. Prüfen Sie für Spiele, Videoschnitt oder die Arbeit mit Modellen neben dem Namen der GPU auch die Anwendung, den verfügbaren Speicher und die konkreten Anforderungen.

Eine NPU, also eine Neural Processing Unit, ist ein Beschleuniger für bestimmte Vorgänge in neuronalen Netzen. Sie kann Inferenz ausführen, also ein bereits trainiertes Modell anwenden, um ein Ergebnis wie eine Transkription oder Bildverbesserung zu erzeugen. Laut Microsoft kann Windows ML Inferenz über Ausführungsanbieter an CPU, GPU oder NPU weiterleiten; welcher Prozessor gewählt wird, hängt von der verfügbaren Hardware und dem Modell ab. Eine NPU allein schaltet nicht automatisch alle KI-Funktionen frei.

Eine NPU kann kompatible Inferenz lokal ausführen und ist darauf ausgelegt, diese Vorgänge effizient zu erledigen. Das Ergebnis hängt vom Modell, Gerät und der Implementierung ab. Damit eine Anwendung die NPU nutzt, braucht sie einen kompatiblen Softwarepfad und manchmal ein an die Hardware angepasstes Modell. Die Anwendungskompatibilität ist ebenso wichtig wie der Chip.

Nicht jede als „KI“ vermarktete Funktion benötigt eine NPU. Manche Funktionen können auf einer CPU oder GPU laufen, andere sind auf entfernte Dienste angewiesen. Unter Windows unterscheiden sich KI-APIs, Windows ML und andere Frameworks hinsichtlich ihrer Anforderungen und Einsatzbereiche. Funktionen, die eine bestimmte PC-Kategorie voraussetzen, sind nicht mit der allgemeinen Fähigkeit gleichzusetzen, Modelle auf unterschiedlichen Beschleunigern auszuführen. Prüfen Sie vor dem Kauf, welche Funktion Sie nutzen möchten und welche Hardware sowie Softwareversion sie voraussetzt.

In einem Arbeitsablauf können Prozessoren einzelne Schritte übernehmen: Die CPU bereitet Daten vor und koordiniert, die GPU verarbeitet einen parallelisierbaren Teil, und die NPU kann kompatible Inferenz ausführen. Diese Aufteilung ist nicht bei allen Computern gleich. Software kann Inferenz an unterschiedliche Prozessoren weiterleiten, je nach verfügbarer Hardware und Modell; die Leistung variiert mit der Konfiguration.

Windows ML veranschaulicht diesen Ansatz bei ONNX-Modellen: Laut Dokumentation kann es über Ausführungsanbieter CPU, GPU und NPU nutzen; die Leistung hängt von Konfiguration und Modell ab. Außerdem kann eine Anwendung auf die CPU zurückgreifen, wenn kein geeigneter Beschleuniger verfügbar ist. Das ermöglicht Anwendungen für unterschiedliche Konfigurationen, bedeutet aber weder, dass alle Kombinationen gleich schnell sind, noch dass jedes Modell auf jeder Einheit läuft.

Bei einem Laptop kann die Integration von CPU und GPU Größe und Stromverbrauch reduzieren. Eine dedizierte GPU ergänzt eine separate Ressource für Aufgaben, die sie nutzen können. Eine integrierte NPU bietet eine weitere spezialisierte Möglichkeit für bestimmte KI-Modelle. Jede Einheit hat andere Fähigkeiten; ihr Nutzen hängt davon ab, ob Aufgabe und Software kompatibel sind.

Die theoretische Leistungsfähigkeit einer Komponente bedeutet nicht, dass eine Anwendung sie tatsächlich nutzt. Entwickler müssen die Unterstützung für den Beschleuniger, die Laufzeitumgebung und verfügbare Treiber integrieren; außerdem muss ein Modell unter Umständen konvertiert oder optimiert werden. Microsoft erklärt beispielsweise, dass manche NPUs Formate mit geringerer numerischer Genauigkeit unterstützen und Modelle für ihre Ausführung vorbereitet werden müssen. Die Unterstützung muss über die gesamte Kette hinweg bestehen, vom Modell bis zum Treiber.

Wichtig ist auch die Unterscheidung zwischen Inferenz und Training. Eine NPU in einem PC ist meist darauf ausgelegt, Modelle auszuführen und Ergebnisse zu liefern, nicht sämtliche Phasen der Modellentwicklung oder des Trainings zu übernehmen. Eine GPU kann bestimmte Trainings- und Inferenz-Workloads beschleunigen, während die CPU ihre allgemeinen Aufgaben behält und als Ausweichlösung dienen kann. Bei manchen Aufgaben überschneiden sich die Einsatzbereiche, doch in jedem Programm sind die Prozessoren nicht austauschbar.

Operationen pro Sekunde (TOPS) und Kernzahlen beschreiben einzelne Merkmale der Hardware, reichen aber allein nicht aus, um einen KI-Workload zu charakterisieren. Das Ergebnis hängt unter anderem von numerischer Genauigkeit, Modellgröße und Hardwarekonfiguration ab. Die Leistung variiert je nach Modell und Computer.

Orientieren Sie sich zuerst an Ihrem hauptsächlichen Einsatz und nicht am Etikett „AI PC“ oder an der auffälligsten Zahl in den Spezifikationen. Für allgemeine Aufgaben vergleichen Sie CPU und Arbeitsspeicher; bei Spielen oder visueller Gestaltung prüfen Sie GPU und Programmvoraussetzungen; bei einer lokalen KI-Funktion klären Sie, ob die Anwendung eine NPU unterstützt und ein bestimmtes Modell oder eine bestimmte Windows-Version verlangt. Die passende Spezifikation ist die, die zu Ihrem Workload passt.

Eine praktische Prüfung kann in dieser Reihenfolge erfolgen:

• Ermitteln Sie die Anwendung und die genaue Aufgabe, die Sie beschleunigen möchten.
• Prüfen Sie die offiziellen Anforderungen an System, Beschleuniger, Speicher und Softwareversion.
• Klären Sie, ob die Funktion lokal ausgeführt wird oder einen Onlinedienst benötigt.
• Suchen Sie nach Leistungswerten für die Anwendung und eine vergleichbare Konfiguration.
• Berücksichtigen Sie neben der Geschwindigkeit auch Stromverbrauch, Geräuschentwicklung, Größe und Akkulaufzeit.

CPU, GPU und NPU sind für unterschiedliche Arten der Verarbeitung ausgelegt und können bei verschiedenen Aufgaben wichtig sein. Die Anwendung bestimmt, ob sie einen Beschleuniger verwendet und welche Einheit zum Einsatz kommt. Prüfen Sie die Kompatibilität mit dem Programm, das Sie nutzen möchten, und beachten Sie dessen Hardware- und Softwareanforderungen.