EN
Catalogue · 26 modèles

Combien de VRAM pour chaque LLM ?

Mémoire nécessaire en Q4, Q8 et FP16 avec 8k tokens de contexte, et la machine la moins chère qui le fait tourner. Cliquez sur un modèle pour le détail par contexte et par carte.

Tous26Llama3Qwen8OpenAI2Google2Mistral4Microsoft1DeepSeek3GLM2Kimi1
4 résultats
Dense · Mistral2024-07
Mistral Nemo 12B12 Md · dense
9 GoQ415 GoQ827 GoFP16

Dès : RTX 3060 12 Go · 1 180 €

Dense · Mistral2025-01
Mistral Small 24B24 Md · dense
17 GoQ428 GoQ852 GoFP16

Dès : 2 × RTX 3060 12 Go · 1 460 €

MoE · Mistral2023-12
Mixtral 8x7B47 Md · 13 Md actifs
31 GoQ453 GoQ899 GoFP16

Dès : 2 × RTX 4060 Ti 16 Go · 1 800 €

Dense · Mistral2024-11
Mistral Large 123B123 Md · dense
81 GoQ4140 GoQ8261 GoFP16

Dès : Mini-PC Ryzen AI Max+ 395 128 Go · 2 300 €