A100 SXM 80GB
NVIDIA Ampere avec 80 Go de VRAM et 2 039 Go/s de bande passante. Cette fiche vous aide a voir rapidement si la carte est credibile pour vos modeles, votre budget et votre type d'usage.
Repères utiles avant d'acheter
- Vendor : NVIDIA
- Architecture : Ampere
- VRAM : 80 Go
- Bande passante : 2 039 Go/s
- Prix neuf : 7 500 €
- Prix occasion : Non disponible
Benchmarks LLM disponibles
-
Llama 3.1 8B :
133,38 t/s
en Q4_K_M
avec contexte 1 024
-
Llama 3.1 8B :
53,18 t/s
en FP16
avec contexte 1 024
-
Llama 3.1 70B :
24,33 t/s
en Q4_K_M
avec contexte 1 024