
Mini PC pour l'IA locale : faire tourner des LLM chez vous
Faire tourner des modèles de langage sur votre propre machine.
Ce qu'il faut regarder
Pour les modèles de langage locaux, vérifiez d’abord la mémoire utilisable, la taille du modèle, la quantification et la longueur du contexte. Gardez de la place pour le système et le logiciel d’inférence. La mémoire partagée ou unifiée peut permettre des modèles plus grands, mais les logiciels compatibles, l’allocation mémoire et la bande passante comptent aussi. La sélection filtre sur la mémoire installée sans prédire le débit en jetons.
Comment choisir
Étape 1
Déterminez la taille du modèle visé, puis achetez la mémoire en conséquence
Choisissez version du modèle, quantification et contexte avant la mémoire. Prévoyez poids, cache KV, tampons du moteur et système. La RAM installée seule ne prouve ni mémoire accessible au GPU ni vitesse de génération utile. Vérifiez moteur, GPU précis et mesures comparables.
Étape 2
Privilégiez la mémoire unifiée si vous visez les plus gros modèles
Les machines à mémoire unifiée partagent une seule mémoire entre le processeur et la partie graphique : l'essentiel est donc disponible pour un modèle, au lieu d'être réparti entre mémoire système et mémoire vidéo. Les machines de 64 Go et 128 Go présentées ici adoptent cette architecture. La contrepartie est que la mémoire unifiée est soudée sur chacune d'elles.
Étape 3
Considérez les TOPS du NPU comme hors sujet pour cette décision
Les TOPS décrivent le débit de l'accélérateur sur certaines charges. Ils ne vous disent pas si un modèle tient en mémoire, et ne prédisent pas la vitesse de génération du texte. Nous ne nous en servons pas pour évaluer l'adéquation, et vous ne devriez pas davantage.
Étape 4
N'attendez de nous aucune promesse de vitesse
Nous publions ce qu'une machine possède, non la vitesse à laquelle elle génère, faute de l'avoir mesurée. La vitesse de génération dépend du modèle, de la quantification, du moteur d'exécution et de l'invite. Quiconque avance un chiffre unique pour une machine simplifie quelque chose de complexe.
Offres mini PC
16 mini PC


MINISFORUM UM890 Pro

Apple Mac mini (M6)

MINISFORUM MS-A2

MINISFORUM AI X1 Pro

MINISFORUM MS-01

Apple Mac mini (M6)

MINISFORUM AtomMan G1 Pro

Apple Mac mini (M5 Pro)

GMKtec EVO-X2

GMKtec EVO-X2

BOSGAME M5
Ce que signifient les chiffres
Mémoire installée
Le plus gros modèle qui tient
Mémoire disponible suffisante pour modèle, quantification, contexte et besoins du moteur
Architecture mémoire
La part réellement utilisable par le modèle
La mémoire unifiée est partagée ; les cartes dédiées sont limitées à leur propre VRAM
Mémoire graphique
Si un modèle tient en VRAM
8 Go sur les cartes mobiles dédiées actuelles présentées ici
Stockage
Le stockage des poids des modèles
1 To ou plus ; les gros modèles pèsent plusieurs dizaines de gigaoctets chacun
Type de mémoire
La possibilité d'augmenter la capacité
La mémoire unifiée est toujours soudée ; les machines à SODIMM peuvent être augmentées plus tard
Erreurs courantes
- Acheter sur un chiffre de TOPS. Ce n'est pas une mesure de ce qui tient en mémoire ni de la vitesse d'exécution.
- Supposer qu'une carte graphique dédiée bat la mémoire unifiée. 8 Go de VRAM contiennent bien moins que 64 Go de mémoire unifiée.
- Oublier le stockage. Les poids des modèles sont volumineux, et un disque de 256 Go se remplit après une poignée d'entre eux.
Les bonnes questions à se poser
De combien de mémoire ai-je besoin ?
Les besoins mémoire varient selon le modèle, la quantification, la longueur du contexte et le logiciel. Utilisez 16, 32 et 64 Go comme repères, gardez de la place pour le système et consultez la documentation du modèle exact.
Un chiffre de TOPS élevé signifie-t-il que les modèles tournent bien ?
Pas à lui seul. Les TOPS décrivent le débit de l'accélérateur sur certaines charges et ne vous disent pas si un modèle donné tient en mémoire, ni à quelle vitesse il génère du texte. Nous ne les utilisons pas pour évaluer l'adéquation.
La mémoire unifiée est-elle préférable ?
Pour la taille des modèles, elle aide, car la mémoire est partagée avec la partie graphique au lieu d'être cloisonnée. Elle est aussi soudée sur tous les modèles qui en disposent ici : la capacité achetée est donc définitive.
Catégories liées
Les prix et la disponibilité des produits sont exacts à la date et à l'heure indiquées et peuvent être modifiés. Le prix et la disponibilité affichés sur Amazon.fr au moment de l'achat s'appliqueront à l'achat de ce produit.