
Mini-PCs für lokale KI: LLMs auf eigener Hardware
Sprachmodelle auf dem eigenen Rechner ausführen.
Worauf du achten solltest
Prüfe für lokale Sprachmodelle zuerst nutzbaren Speicher, Modellgröße, Quantisierung und Kontextlänge. Betriebssystem und Laufzeitumgebung benötigen ebenfalls Speicher. Gemeinsam genutzter Speicher kann größere Modelle ermöglichen. Grafikunterstützung, Speicherzuweisung und Bandbreite beeinflussen aber weiterhin Kompatibilität und Tempo. Die Auswahl nutzt den verbauten Speicher als Kapazitätsfilter und sagt keine Ausgaberate voraus.
So wählst du aus
Schritt 1
Die gewünschte Modellgröße bestimmen und den Speicher danach kaufen
Lege Modellversion, Quantisierung und Kontextlänge fest, bevor du den Speicher auswählst. Plane Gewichte, KV-Cache, Laufzeitpuffer und Betriebssystem ein. Verbauter RAM allein belegt weder nutzbaren GPU-Speicher noch ein brauchbares Generierungstempo. Prüfe Laufzeit und genaue GPU-Unterstützung sowie vergleichbare Messungen.
Schritt 2
Für die größten Modelle gemeinsam genutzten Speicher bevorzugen
Geräte mit gemeinsam genutztem Speicher teilen einen Pool zwischen Prozessor und Grafik, sodass die volle Kapazität einem Modell zur Verfügung steht, statt zwischen System und Videospeicher aufgeteilt zu werden. Die Geräte hier mit 64 GB und 128 GB nutzen diese Bauweise. Der Preis dafür: Dieser Speicher ist bei allen verlötet.
Schritt 3
NPU-TOPS-Werte für diese Entscheidung ignorieren
TOPS beschreibt den Durchsatz von Beschleunigern für bestimmte Lasten. Der Wert sagt nicht, ob ein Modell in den Speicher passt, und sagt nichts darüber, wie schnell Text erzeugt wird. Wir bewerten die Eignung nicht nach TOPS, und du solltest es auch nicht tun.
Schritt 4
Von uns keine Geschwindigkeitsangaben erwarten
Wir veröffentlichen, was ein Gerät hat, nicht wie schnell es erzeugt, weil wir es nicht gemessen haben. Die Geschwindigkeit hängt von Modell, Quantisierung, Laufzeitumgebung und Eingabe ab. Wer eine einzelne Zahl für ein Gerät nennt, vereinfacht etwas Kompliziertes.
Mini-PC-Angebote
43 Mini-PCs


Apple Mac mini (M6)

GMKtec K12

GMKtec NucBox K8 Plus

GMKtec NucBox K11

GMKtec NucBox K8 Plus

GMKtec K12

GEEKOM A8 Max

MINISFORUM UM890 Pro

Apple Mac mini (M6)

GMKtec NucBox K11

MINISFORUM MS-02 Ultra 235HX
Was die Zahlen bedeuten
Verbauter Arbeitsspeicher
Das größte Modell, das hineinpasst
Genug verfügbarer Speicher für Modell, Quantisierung, Kontext und Laufzeitbedarf
Speicherarchitektur
Wie viel dem Modell zur Verfügung steht
Gemeinsamer Speicher teilt einen Pool; dedizierte Grafik ist auf ihren eigenen VRAM begrenzt
Grafikspeicher
Ob ein Modell in den VRAM passt
8 GB bei den hier vertretenen dedizierten Mobil-GPUs
Massenspeicher
Platz für Modellgewichte
1 TB oder mehr; große Modelle sind je zig Gigabyte groß
Speichertyp
Ob die Kapazität wachsen kann
Gemeinsamer Speicher ist immer verlötet; SODIMM-Geräte lassen sich später erhöhen
Häufige Fehler
- Nach einer TOPS-Zahl kaufen. Sie misst nicht, ob ein Modell passt oder wie schnell es läuft.
- Annehmen, eine dedizierte Grafikkarte schlage gemeinsamen Speicher. 8 GB VRAM fassen weit weniger als 64 GB gemeinsamer Speicher.
- Den Massenspeicher vergessen. Modellgewichte sind groß, und eine 256-GB-SSD ist nach einer Handvoll voll.
Fragen, die sich lohnen
Wie viel Arbeitsspeicher brauche ich?
Der Speicherbedarf hängt von Modell, Quantisierung, Kontextlänge und Laufzeitumgebung ab. Nutze 16, 32 und 64 GB als Orientierung, plane Platz für das Betriebssystem ein und prüfe die Dokumentation des genauen Modells.
Bedeutet ein hoher NPU-TOPS-Wert, dass Modelle gut laufen?
Für sich genommen nicht. TOPS-Werte beschreiben den Durchsatz von Beschleunigern für bestimmte Lasten und sagen nichts darüber, ob ein Modell in den Speicher passt oder wie schnell es Text erzeugt. Wir nutzen sie nicht zur Eignungsbewertung.
Ist gemeinsam genutzter Speicher besser?
Für die Modellgröße hilft er, weil der Speicherpool mit der Grafik geteilt statt aufgeteilt wird. Er ist bei jedem Modell hier, das ihn hat, auch verlötet, die gekaufte Kapazität bleibt also dauerhaft.
Verwandte Kategorien
Produktpreise und Verfügbarkeit entsprechen dem angegebenen Stand (Datum/Uhrzeit) und können sich ändern. Für den Kauf dieses Produkts gelten die Angaben zu Preis und Verfügbarkeit, die zum Kaufzeitpunkt auf der maßgeblichen Amazon-Website angezeigt werden.