Vergleiche Arbeitsspeicher, GPU-Unterstützung, Aufrüstbarkeit und Preise für dein Modell und deine Software.
Auf einen Blick64 GB oder mehr
Was hier entscheidet
Prüfe für lokale Sprachmodelle zuerst nutzbaren Speicher, Modellgröße, Quantisierung und Kontextlänge. Betriebssystem und Laufzeitumgebung benötigen ebenfalls Speicher. Gemeinsam genutzter Speicher kann größere Modelle ermöglichen. Grafikunterstützung, Speicherzuweisung und Bandbreite beeinflussen aber weiterhin Kompatibilität und Tempo. Die Auswahl nutzt den verbauten Speicher als Kapazitätsfilter und sagt keine Ausgaberate voraus.
Welche Modelle kommen infrage?
Vergleiche die konkreten Ausstattungen nach Preis, Anschlüssen und Aufrüstbarkeit. Entscheidend sind deine Anforderungen; die Reihenfolge ist keine Leistungsmessung.
Für den Betrieb lokaler Sprachmodelle. Unter diesen Empfehlungen hat es derzeit den niedrigsten Preis in Deutschland. Diese Konfiguration kombiniert AMD Radeon 8060S mit 128 GB Arbeitsspeicher. Prüfe die genaue GPU in der Unterstützungsliste deiner Laufzeit.
Kompromiss: GPU-Beschleunigung und nutzbarer Speicher hängen von Betriebssystem, Treiber und Laufzeit ab. Das Generierungstempo ist nicht gemessen. Die 128 GB RAM lassen sich später nicht aufrüsten. Es gibt einen integrierten Netzwerkanschluss (2,5GbE). Für getrennte physische Verbindungen brauchst du zusätzliche Hardware.
Für den Betrieb lokaler Sprachmodelle. Vergleiche den Preis mit GMKtec EVO-X2; ein Aufpreis lohnt sich nur für Ausstattung, die du brauchst. Diese Konfiguration kombiniert AMD Radeon 8060S mit 128 GB Arbeitsspeicher. Prüfe die genaue GPU in der Unterstützungsliste deiner Laufzeit.
Kompromiss: CPU, GPU und verbauter RAM/SSD entsprechen dem günstigeren GMKtec EVO-X2. Ein gemessener Leistungsvorteil ist hier nicht belegt. GPU-Beschleunigung und nutzbarer Speicher hängen von Betriebssystem, Treiber und Laufzeit ab. Das Generierungstempo ist nicht gemessen. Die 128 GB RAM lassen sich später nicht aufrüsten. Die Zahl der Netzwerkanschlüsse ist bei diesem Modell nicht bestätigt. Prüfe sie vor einem Kauf für netzwerkabhängige Aufgaben.
Für den Betrieb lokaler Sprachmodelle. Vergleiche den Preis mit GMKtec EVO-X2; ein Aufpreis lohnt sich nur für Ausstattung, die du brauchst. Mit 2 Netzwerkanschlüssen bietet es mehr getrennte physische Verbindungen als der GMKtec EVO-X2 mit 1. Integrierte Netzwerkanschlüsse laut Datenblatt: 10GbE. Das hilft bei einem entsprechend ausgestatteten NAS oder Host-Netz. Diese Konfiguration kombiniert AMD Radeon 8060S mit 128 GB Arbeitsspeicher. Prüfe die genaue GPU in der Unterstützungsliste deiner Laufzeit.
Kompromiss: CPU, GPU und verbauter RAM/SSD entsprechen dem günstigeren GMKtec EVO-X2. Ein gemessener Leistungsvorteil ist hier nicht belegt. GPU-Beschleunigung und nutzbarer Speicher hängen von Betriebssystem, Treiber und Laufzeit ab. Das Generierungstempo ist nicht gemessen. Die 128 GB RAM lassen sich später nicht aufrüsten.
Ein Modell laden und es flüssig nutzen sind zwei Fragen
Lege Modellversion und Quantisierung fest und plane Speicher für Gewichte, Kontext beziehungsweise KV-Cache, Laufzeitpuffer und Betriebssystem ein. Als Rechenbeispiel ergeben 70 Milliarden Parameter bei genau vier Bit etwa 35 GB reine Gewichte, noch ohne Metadaten und Zusatzbedarf. Daraus folgt keine Garantie für jedes 70B-Modell auf einem 64-GB-Gerät. Längerer Kontext, parallele Anfragen und Auslagerung verändern den Bedarf. Für ein brauchbares Tempo zählen Messungen mit genau deinem Modell, Kontext und Backend.
Prüfe, welchen Speicher deine Software nutzen kann
Gemeinsamer Speicher bedeutet nicht, dass die GPU automatisch den gesamten Arbeitsspeicher für Inferenz nutzen kann. Firmware, Treiber, Betriebssystem und Laufzeit bestimmen die nutzbare Zuweisung. Gesockelter Systemspeicher kann CPU-Inferenz und Auslagerung ermöglichen; er steht einem Modell nicht grundsätzlich weniger zur Verfügung. Eine dedizierte GPU hat eine eigene VRAM-Grenze. Prüfe den unterstützten Beschleunigungsweg in Ollama oder LM Studio, statt ihn aus dem Speichertyp oder einem NPU-Aufkleber abzuleiten.
Konkrete Ausstattung und Aufrüstbarkeit prüfen
Die Aufrüstbarkeit hängt vom Modell ab. Die Lenovo ThinkStation P3 Ultra SFF Gen 2 besitzt zwei austauschbare DDR5-Speicherplätze und unterstützt laut Dokumentation bis zu 128 GB. Die aufgeführten 64 GB sind die verbaute Kapazität, kein verlöteter Speicher. Beachte Lenovos Vorgaben für passende Module und gegebenenfalls erforderliche Nachrüstsätze. Bei anderen Geräten mit verlötetem Speicher musst du die benötigte Kapazität beim Kauf wählen. Prüfe die konkrete Konfiguration, Speicherplätze, Laufwerksanschlüsse und dokumentierten Grenzen auf der jeweiligen Produktseite.
Beide Programme führen lokale Modelle aus, unterscheiden sich aber bei Modellformaten, Laufzeitversionen und GPU-Unterstützung. Ollama dokumentiert unterstützte NVIDIA-, AMD- und Apple-Beschleunigung; LM Studio bietet llama.cpp-Laufzeiten und auf Apple Silicon auch MLX. Prüfe die genaue GPU, das Betriebssystem, den Treiber und das Modellformat in der aktuellen Dokumentation. Funktioniert eine Konfiguration in einem Programm, sind Speicherbedarf, GPU-Auslagerung und Tempo im anderen damit nicht belegt.
Ist einheitlicher Speicher besser als eine Grafikkarte?
Das hängt von Modell und Software ab. Gemeinsamer Speicher kann einen größeren GPU-Speicherbereich ermöglichen, doch Betriebssystem und Laufzeit brauchen Reserven und die Zuweisungsgrenzen unterscheiden sich. Eine dedizierte GPU hat eigenen VRAM; Auslagerung auf die CPU kann das Laden ermöglichen und zugleich das Tempo verändern. Einen gemessenen Geschwindigkeitsvorteil weisen wir hier nicht aus.
Spielt die NPU-Angabe eine Rolle?
Ein TOPS-Wert belegt weder die Unterstützung eines Sprachmodells noch dessen Ausgabegeschwindigkeit. Prüfe, ob deine konkrete Laufzeit und dein Modell die NPU nutzen können. Andernfalls sind CPU- und GPU-Unterstützung, verfügbarer Speicher und anhaltende Bandbreite die wichtigeren Kaufkriterien.
Produktpreise und Verfügbarkeit entsprechen dem angegebenen Stand (Datum/Uhrzeit) und können sich ändern. Für den Kauf dieses Produkts gelten die Angaben zu Preis und Verfügbarkeit, die zum Kaufzeitpunkt auf der maßgeblichen Amazon-Website angezeigt werden.
