DeepSeek R1 671B
Cette page rassemble les resultats observes pour DeepSeek R1 671B afin de voir quelles cartes s'en sortent le mieux, a quel debit, et dans quelles conditions de test.
Ce qu'il faut regarder pour ce modele
- Paramètres actifs : 37B
- Paramètres totaux : 671B
- Contexte max : 128 000 tokens
Benchmarks GPU disponibles
-
H100 PCIe
· 33 t/s
en AWQ INT4
· contexte 1 024