Comment choisir un GPU pour LLM
Ce guide vous aide a arbitrer entre VRAM, débit reel et budget pour eviter d'acheter une carte mal dimensionnee pour vos modèles et votre usage.
Les critères à prioriser
- VRAM disponible pour charger le modèle et la taille de contexte visée
- Débit observé en tokens par seconde sur des benchmarks comparables
- Prix neuf et prix occasion analysés séparément
- Différence entre usage local, workstation et déploiement plus lourd