EN
Catalogue · 26 modèles

Combien de VRAM pour chaque LLM ?

Mémoire nécessaire en Q4, Q8 et FP16 avec 8k tokens de contexte, et la machine la moins chère qui le fait tourner. Cliquez sur un modèle pour le détail par contexte et par carte.

Tous26Llama3Qwen8OpenAI2Google2Mistral4Microsoft1DeepSeek3GLM2Kimi1
3 résultats
Dense · DeepSeek2025-01
DeepSeek R1 Distill 32B33 Md · dense
23 GoQ439 GoQ871 GoFP16

Dès : 2 × RTX 3060 12 Go · 1 460 €

MoE · DeepSeek2025-01
DeepSeek R1 671B671 Md · 37 Md actifs
424 GoQ4748 GoQ81 410 GoFP16

Dès : 6 × A100 80 Go · 72 000 €

MoE · DeepSeek2025-08
DeepSeek V3.1 671B671 Md · 37 Md actifs
424 GoQ4748 GoQ81 410 GoFP16

Dès : 6 × A100 80 Go · 72 000 €