Zum Inhalt springen
MiniPc.Deals

Mini-PCs für lokale KI: LLMs auf eigener Hardware

Sprachmodelle auf dem eigenen Rechner ausführen.

Worauf du achten solltest

Prüfe für lokale Sprachmodelle zuerst nutzbaren Speicher, Modellgröße, Quantisierung und Kontextlänge. Betriebssystem und Laufzeitumgebung benötigen ebenfalls Speicher. Gemeinsam genutzter Speicher kann größere Modelle ermöglichen. Grafikunterstützung, Speicherzuweisung und Bandbreite beeinflussen aber weiterhin Kompatibilität und Tempo. Die Auswahl nutzt den verbauten Speicher als Kapazitätsfilter und sagt keine Ausgaberate voraus.

So wählst du aus

  1. Schritt 1

    Die gewünschte Modellgröße bestimmen und den Speicher danach kaufen

    Lege Modellversion, Quantisierung und Kontextlänge fest, bevor du den Speicher auswählst. Plane Gewichte, KV-Cache, Laufzeitpuffer und Betriebssystem ein. Verbauter RAM allein belegt weder nutzbaren GPU-Speicher noch ein brauchbares Generierungstempo. Prüfe Laufzeit und genaue GPU-Unterstützung sowie vergleichbare Messungen.

  2. Schritt 2

    Für die größten Modelle gemeinsam genutzten Speicher bevorzugen

    Geräte mit gemeinsam genutztem Speicher teilen einen Pool zwischen Prozessor und Grafik, sodass die volle Kapazität einem Modell zur Verfügung steht, statt zwischen System und Videospeicher aufgeteilt zu werden. Die Geräte hier mit 64 GB und 128 GB nutzen diese Bauweise. Der Preis dafür: Dieser Speicher ist bei allen verlötet.

  3. Schritt 3

    NPU-TOPS-Werte für diese Entscheidung ignorieren

    TOPS beschreibt den Durchsatz von Beschleunigern für bestimmte Lasten. Der Wert sagt nicht, ob ein Modell in den Speicher passt, und sagt nichts darüber, wie schnell Text erzeugt wird. Wir bewerten die Eignung nicht nach TOPS, und du solltest es auch nicht tun.

  4. Schritt 4

    Von uns keine Geschwindigkeitsangaben erwarten

    Wir veröffentlichen, was ein Gerät hat, nicht wie schnell es erzeugt, weil wir es nicht gemessen haben. Die Geschwindigkeit hängt von Modell, Quantisierung, Laufzeitumgebung und Eingabe ab. Wer eine einzelne Zahl für ein Gerät nennt, vereinfacht etwas Kompliziertes.

Mini-PC-Angebote

Zurücksetzen

43 Mini-PCs

Produktbild: GMKtec NucBox M6 Ultra

GMKtec NucBox M6 Ultra

AMD Ryzen 5 7640HS
CPU
32 GB DDR5
ARBEITSSPEICHER
512 GB SSD
SPEICHER
2× 2,5GbE
NETZWERK
669,96 €
729,96 €SPARE 60,00 €
Produktbild: Apple Mac mini (M6)

Apple Mac mini (M6)

Apple M6
CPU
16 GB
ARBEITSSPEICHER
256 GB SSD
SPEICHER
macOS
BETRIEBSSYSTEM
899,00 €
1.049,00 €SPARE 150,00 €
Produktbild: GMKtec NucBox K8 Plus

GMKtec NucBox K8 Plus

Über dem üblichen Preis
AMD Ryzen 7 8845HS
CPU
32 GB DDR5
ARBEITSSPEICHER
512 GB SSD
SPEICHER
2× 2,5GbE
NETZWERK
944,96 €
Produktbild: GMKtec NucBox K11

GMKtec NucBox K11

Über dem üblichen Preis
AMD Ryzen 9 8945HS
CPU
32 GB DDR5
ARBEITSSPEICHER
512 GB SSD
SPEICHER
2× 2,5GbE
NETZWERK
959,96 €
Produktbild: Apple Mac mini (M6)

Apple Mac mini (M6)

Apple M6
CPU
16 GB
ARBEITSSPEICHER
512 GB SSD
SPEICHER
macOS
BETRIEBSSYSTEM
1.129,00 €
1.269,00 €SPARE 140,00 €
Produktbild: MINISFORUM MS-02 Ultra 235HX

MINISFORUM MS-02 Ultra 235HX

Intel Core Ultra 5 235HX
CPU
32 GB DDR5
ARBEITSSPEICHER
1 TB SSD
SPEICHER
10GbE
NETZWERK
1.199,00 €

Was die Zahlen bedeuten

Verbauter Arbeitsspeicher

Das größte Modell, das hineinpasst

Genug verfügbarer Speicher für Modell, Quantisierung, Kontext und Laufzeitbedarf

Speicherarchitektur

Wie viel dem Modell zur Verfügung steht

Gemeinsamer Speicher teilt einen Pool; dedizierte Grafik ist auf ihren eigenen VRAM begrenzt

Grafikspeicher

Ob ein Modell in den VRAM passt

8 GB bei den hier vertretenen dedizierten Mobil-GPUs

Massenspeicher

Platz für Modellgewichte

1 TB oder mehr; große Modelle sind je zig Gigabyte groß

Speichertyp

Ob die Kapazität wachsen kann

Gemeinsamer Speicher ist immer verlötet; SODIMM-Geräte lassen sich später erhöhen

Häufige Fehler

  • Nach einer TOPS-Zahl kaufen. Sie misst nicht, ob ein Modell passt oder wie schnell es läuft.
  • Annehmen, eine dedizierte Grafikkarte schlage gemeinsamen Speicher. 8 GB VRAM fassen weit weniger als 64 GB gemeinsamer Speicher.
  • Den Massenspeicher vergessen. Modellgewichte sind groß, und eine 256-GB-SSD ist nach einer Handvoll voll.

Fragen, die sich lohnen

Wie viel Arbeitsspeicher brauche ich?

Der Speicherbedarf hängt von Modell, Quantisierung, Kontextlänge und Laufzeitumgebung ab. Nutze 16, 32 und 64 GB als Orientierung, plane Platz für das Betriebssystem ein und prüfe die Dokumentation des genauen Modells.

Bedeutet ein hoher NPU-TOPS-Wert, dass Modelle gut laufen?

Für sich genommen nicht. TOPS-Werte beschreiben den Durchsatz von Beschleunigern für bestimmte Lasten und sagen nichts darüber, ob ein Modell in den Speicher passt oder wie schnell es Text erzeugt. Wir nutzen sie nicht zur Eignungsbewertung.

Ist gemeinsam genutzter Speicher besser?

Für die Modellgröße hilft er, weil der Speicherpool mit der Grafik geteilt statt aufgeteilt wird. Er ist bei jedem Modell hier, das ihn hat, auch verlötet, die gekaufte Kapazität bleibt also dauerhaft.

Produktpreise und Verfügbarkeit entsprechen dem angegebenen Stand (Datum/Uhrzeit) und können sich ändern. Für den Kauf dieses Produkts gelten die Angaben zu Preis und Verfügbarkeit, die zum Kaufzeitpunkt auf der maßgeblichen Amazon-Website angezeigt werden.