A100 PCIe
NVIDIA Ampere avec 80 Go de VRAM et 2 000 Go/s de bande passante. Cette fiche vous aide a voir rapidement si la carte est credibile pour vos modeles, votre budget et votre type d'usage.
Repères utiles avant d'acheter
- Vendor : NVIDIA
- Architecture : Ampere
- VRAM : 80 Go
- Bande passante : 2 000 Go/s
- Prix neuf : 5 400 €
- Prix occasion : Non disponible
Benchmarks LLM disponibles
-
Llama 3.1 8B :
138,31 t/s
en Q4_K_M
avec contexte 1 024
-
Llama 3.1 8B :
138,31 t/s
en Q4_K_M
avec contexte 1 024
-
Llama 3.1 8B :
54,56 t/s
en FP16
avec contexte 1 024
-
Llama 3.1 70B :
22,68 t/s
en Q4_K_M
avec contexte 1 024
-
Llama 3.1 70B :
22,11 t/s
en Q4_K_M
avec contexte 1 024