Aller au contenu
MiniPc.Deals

Mini PC pour l'IA locale : faire tourner des LLM chez vous

Faire tourner des modèles de langage sur votre propre machine.

Ce qu'il faut regarder

Pour les modèles de langage locaux, vérifiez d’abord la mémoire utilisable, la taille du modèle, la quantification et la longueur du contexte. Gardez de la place pour le système et le logiciel d’inférence. La mémoire partagée ou unifiée peut permettre des modèles plus grands, mais les logiciels compatibles, l’allocation mémoire et la bande passante comptent aussi. La sélection filtre sur la mémoire installée sans prédire le débit en jetons.

Comment choisir

  1. Étape 1

    Déterminez la taille du modèle visé, puis achetez la mémoire en conséquence

    Choisissez version du modèle, quantification et contexte avant la mémoire. Prévoyez poids, cache KV, tampons du moteur et système. La RAM installée seule ne prouve ni mémoire accessible au GPU ni vitesse de génération utile. Vérifiez moteur, GPU précis et mesures comparables.

  2. Étape 2

    Privilégiez la mémoire unifiée si vous visez les plus gros modèles

    Les machines à mémoire unifiée partagent une seule mémoire entre le processeur et la partie graphique : l'essentiel est donc disponible pour un modèle, au lieu d'être réparti entre mémoire système et mémoire vidéo. Les machines de 64 Go et 128 Go présentées ici adoptent cette architecture. La contrepartie est que la mémoire unifiée est soudée sur chacune d'elles.

  3. Étape 3

    Considérez les TOPS du NPU comme hors sujet pour cette décision

    Les TOPS décrivent le débit de l'accélérateur sur certaines charges. Ils ne vous disent pas si un modèle tient en mémoire, et ne prédisent pas la vitesse de génération du texte. Nous ne nous en servons pas pour évaluer l'adéquation, et vous ne devriez pas davantage.

  4. Étape 4

    N'attendez de nous aucune promesse de vitesse

    Nous publions ce qu'une machine possède, non la vitesse à laquelle elle génère, faute de l'avoir mesurée. La vitesse de génération dépend du modèle, de la quantification, du moteur d'exécution et de l'invite. Quiconque avance un chiffre unique pour une machine simplifie quelque chose de complexe.

Offres mini PC

Réinitialiser

16 mini PC

Photo du produit : Apple Mac mini (M6)

Apple Mac mini (M6)

Apple M6
PROCESSEUR
16 Go
MÉMOIRE
256 Go SSD
STOCKAGE
macOS
SYSTÈME
1 019,00 €
1 049,00 €ÉCONOMISEZ 30,00 €
Photo du produit : MINISFORUM AtomMan G1 Pro

MINISFORUM AtomMan G1 Pro

AMD Ryzen 9 8945HX
PROCESSEUR
32 Go DDR5
MÉMOIRE
1 To SSD
STOCKAGE
NVIDIA GeForce RTX 5060 8GB GDDR7
GRAPHIQUES
1 875,00 €

Ce que signifient les chiffres

Mémoire installée

Le plus gros modèle qui tient

Mémoire disponible suffisante pour modèle, quantification, contexte et besoins du moteur

Architecture mémoire

La part réellement utilisable par le modèle

La mémoire unifiée est partagée ; les cartes dédiées sont limitées à leur propre VRAM

Mémoire graphique

Si un modèle tient en VRAM

8 Go sur les cartes mobiles dédiées actuelles présentées ici

Stockage

Le stockage des poids des modèles

1 To ou plus ; les gros modèles pèsent plusieurs dizaines de gigaoctets chacun

Type de mémoire

La possibilité d'augmenter la capacité

La mémoire unifiée est toujours soudée ; les machines à SODIMM peuvent être augmentées plus tard

Erreurs courantes

  • Acheter sur un chiffre de TOPS. Ce n'est pas une mesure de ce qui tient en mémoire ni de la vitesse d'exécution.
  • Supposer qu'une carte graphique dédiée bat la mémoire unifiée. 8 Go de VRAM contiennent bien moins que 64 Go de mémoire unifiée.
  • Oublier le stockage. Les poids des modèles sont volumineux, et un disque de 256 Go se remplit après une poignée d'entre eux.

Les bonnes questions à se poser

De combien de mémoire ai-je besoin ?

Les besoins mémoire varient selon le modèle, la quantification, la longueur du contexte et le logiciel. Utilisez 16, 32 et 64 Go comme repères, gardez de la place pour le système et consultez la documentation du modèle exact.

Un chiffre de TOPS élevé signifie-t-il que les modèles tournent bien ?

Pas à lui seul. Les TOPS décrivent le débit de l'accélérateur sur certaines charges et ne vous disent pas si un modèle donné tient en mémoire, ni à quelle vitesse il génère du texte. Nous ne les utilisons pas pour évaluer l'adéquation.

La mémoire unifiée est-elle préférable ?

Pour la taille des modèles, elle aide, car la mémoire est partagée avec la partie graphique au lieu d'être cloisonnée. Elle est aussi soudée sur tous les modèles qui en disposent ici : la capacité achetée est donc définitive.

Les prix et la disponibilité des produits sont exacts à la date et à l'heure indiquées et peuvent être modifiés. Le prix et la disponibilité affichés sur Amazon.fr au moment de l'achat s'appliqueront à l'achat de ce produit.