Qwen3.8 27B : combien de VRAM ?
En Q4_K_M avec 8k tokens de contexte, Qwen3.8 27B demande environ 20 Go de mémoire. La solution la moins chère : 2 × RTX 3060 12 Go (1 460 € machine complète).
Fiche
vllm serve Qwen/Qwen3.8-27BPoids sur Hugging Face : Qwen/Qwen3.8-27B
VRAM selon la précision et le contexte
| Précision | 4k | 8k | 32k | 128k |
|---|---|---|---|---|
| FP16 | 60 Go | 61 Go | 66 Go | 85 Go |
| FP8 | 31 Go | 31 Go | 36 Go | 55 Go |
| Q8_0 | 32 Go | 33 Go | 38 Go | 57 Go |
| Q6_K | 25 Go | 26 Go | 31 Go | 50 Go |
| Q4_K_M | 19 Go | 20 Go | 24 Go | 44 Go |
| Q3_K_M | 16 Go | 16 Go | 21 Go | 40 Go |
Un seul utilisateur. Chaque utilisateur simultané ajoute son propre cache de contexte.
Questions fréquentes
Combien de VRAM faut-il pour Qwen3.8 27B ?
Avec 8k tokens de contexte et un utilisateur, Qwen3.8 27B demande environ 20 Go en Q4, 33 Go en Q8 et 61 Go en FP16.
Quel est le matériel le moins cher pour Qwen3.8 27B ?
En Q4, la solution la moins chère de notre catalogue pour Qwen3.8 27B est 2 × RTX 3060 12 Go, environ 1 460 € pour la machine complète.
À quelle vitesse tourne Qwen3.8 27B ?
Comptez environ 18 tokens par seconde pour un utilisateur sur 2 × RTX 3060 12 Go en Q4 (estimation d’après la bande passante mémoire).
Sur quel matériel ?
| Matériel | Cartes | Vitesse | Machine |
|---|---|---|---|
| RTX 3060 12 Go | 2 cartes | ~18 tok/s | 1 460 € |
| RTX 3090 24 Go (occasion) | 1 suffit | ~30 tok/s | 1 650 € |
| RTX 4060 Ti 16 Go | 2 cartes | ~14 tok/s | 1 800 € |
| Radeon RX 7900 XTX 24 Go | 1 suffit | ~31 tok/s | 1 850 € |
| Radeon RX 7800 XT 16 Go | 2 cartes | ~30 tok/s | 1 900 € |
| RTX 4070 12 Go | 2 cartes | ~25 tok/s | 2 000 € |
| Mini-PC Ryzen AI Max+ 395 128 Go | 1 suffit | ~8,3 tok/s | 2 300 € |
| RTX 4070 Ti SUPER 16 Go | 2 cartes | ~33 tok/s | 2 600 € |
| RTX 4090 24 Go | 1 suffit | ~33 tok/s | 2 900 € |
| RTX 4080 SUPER 16 Go | 2 cartes | ~36 tok/s | 3 000 € |
| RTX 5080 16 Go | 2 cartes | ~47 tok/s | 3 300 € |
| RTX 5090 32 Go | 1 suffit | ~58 tok/s | 3 500 € |
| NVIDIA DGX Spark 128 Go | 1 suffit | ~8,9 tok/s | 4 000 € |
| Mac Studio M4 Max 128 Go | 1 suffit | ~18 tok/s | 4 400 € |
| RTX 6000 Ada 48 Go | 1 suffit | ~31 tok/s | 7 900 € |
| RTX PRO 6000 Blackwell 96 Go | 1 suffit | ~58 tok/s | 9 900 € |
| Mac Studio M3 Ultra 512 Go | 1 suffit | ~27 tok/s | 11 500 € |
| L40S 48 Go | 1 suffit | ~28 tok/s | 13 500 € |
| A100 80 Go | 1 suffit | ~66 tok/s | 17 000 € |
| H100 80 Go | 1 suffit | ~109 tok/s | 34 000 € |
| H200 141 Go | 1 suffit | ~156 tok/s | 39 000 € |
| B200 192 Go | 1 suffit | ~260 tok/s | 48 000 € |
Machine complète estimée : cartes + PC hôte (900 € pour 1 à 2 cartes grand public, 2 800 € au-delà, 6 000 € de serveur pour les cartes datacenter). Les Mac et mini-PC sont vendus complets.
Modèles proches
Dès : RTX 3060 12 Go · 1 180 €
Dès : RTX 3060 12 Go · 1 180 €
Dès : RTX 3060 12 Go · 1 180 €
Dès : RTX 4060 Ti 16 Go · 1 350 €