Datacenter270 000 €
DeepSeek R1 complet en FP8
Le modèle de raisonnement complet, sans compression, sur un nœud de 8 H200 (1,1 To de mémoire HBM).
Modèle DeepSeek R1 671BMatériel 8 × H200 141 GoPrécision FP8Moteur vLLMContexte 32k × 4 utilisateurs
Mémoire714 / 1 128 Go
Vitesse estimée~426 tok/s
Consommation5 600 W
Occupation de la mémoire63 %
vllm serve deepseek-ai/DeepSeek-R1 --tensor-parallel-size 8