EN
Catalogue · 26 modèles

Combien de VRAM pour chaque LLM ?

Mémoire nécessaire en Q4, Q8 et FP16 avec 8k tokens de contexte, et la machine la moins chère qui le fait tourner. Cliquez sur un modèle pour le détail par contexte et par carte.

Tous26Llama3Qwen8OpenAI2Google2Mistral4Microsoft1DeepSeek3GLM2Kimi1
2 résultats
MoE · GLM2025-07
GLM-4.5-Air 106B106 Md · 12 Md actifs
69 GoQ4120 GoQ8224 GoFP16

Dès : Mini-PC Ryzen AI Max+ 395 128 Go · 2 300 €

MoE · GLM2025-07
GLM-4.5 355B355 Md · 32 Md actifs
226 GoQ4398 GoQ8748 GoFP16

Dès : Mac Studio M3 Ultra 512 Go · 11 500 €