Qwen · Mixture of Experts · 2025-04

Qwen3 235B-A22B : combien de VRAM ?

En Q4_K_M avec 8k tokens de contexte, Qwen3 235B-A22B demande environ 150 Go de mémoire. La solution la moins chère : Mac Studio M3 Ultra 512 Go (11 500 € machine complète).

Fiche

Paramètres235 Md

Actifs / token22 Md

Cache / 1k tok.184 Mo

ollama run qwen3:235b

Poids sur Hugging Face : Qwen/Qwen3-235B-A22B

Configurer le serveur le moins cher →Comparer des GPU

VRAM selon la précision et le contexte

Précision	4k	8k	32k	128k
FP16	495 Go	495 Go	500 Go	517 Go
FP8	248 Go	249 Go	253 Go	270 Go
Q8_0	263 Go	263 Go	268 Go	285 Go
Q6_K	203 Go	204 Go	208 Go	226 Go
Q4_K_M	149 Go	150 Go	154 Go	171 Go
Q3_K_M	122 Go	123 Go	127 Go	144 Go

Un seul utilisateur. Chaque utilisateur simultané ajoute son propre cache de contexte.

Questions fréquentes

Combien de VRAM faut-il pour Qwen3 235B-A22B ?

Avec 8k tokens de contexte et un utilisateur, Qwen3 235B-A22B demande environ 150 Go en Q4, 263 Go en Q8 et 495 Go en FP16.

Quel est le matériel le moins cher pour Qwen3 235B-A22B ?

En Q4, la solution la moins chère de notre catalogue pour Qwen3 235B-A22B est Mac Studio M3 Ultra 512 Go, environ 11 500 € pour la machine complète.

À quelle vitesse tourne Qwen3 235B-A22B ?

Comptez environ 34 tokens par seconde pour un utilisateur sur Mac Studio M3 Ultra 512 Go en Q4 (estimation d’après la bande passante mémoire).

Sur quel matériel ?

Matériel	Cartes	Vitesse	Machine
Mac Studio M3 Ultra 512 Go	1 suffit	~34 tok/s	11 500 €
RTX PRO 6000 Blackwell 96 Go	2 cartes	~111 tok/s	18 900 €
A100 80 Go	2 cartes	~126 tok/s	28 000 €
RTX 6000 Ada 48 Go	4 cartes	~119 tok/s	30 800 €
L40S 48 Go	4 cartes	~107 tok/s	36 000 €
B200 192 Go	1 suffit	~330 tok/s	48 000 €
H100 80 Go	2 cartes	~207 tok/s	62 000 €
H200 141 Go	2 cartes	~297 tok/s	72 000 €
RTX 3060 12 Go	ne tient pas	—	—
RTX 4060 Ti 16 Go	ne tient pas	—	—
Radeon RX 7800 XT 16 Go	ne tient pas	—	—
RTX 4070 12 Go	ne tient pas	—	—
RTX 3090 24 Go (occasion)	ne tient pas	—	—
RTX 4070 Ti SUPER 16 Go	ne tient pas	—	—
Radeon RX 7900 XTX 24 Go	ne tient pas	—	—
RTX 4080 SUPER 16 Go	ne tient pas	—	—
RTX 5080 16 Go	ne tient pas	—	—
RTX 4090 24 Go	ne tient pas	—	—
Mini-PC Ryzen AI Max+ 395 128 Go	ne tient pas	—	—
RTX 5090 32 Go	ne tient pas	—	—
NVIDIA DGX Spark 128 Go	ne tient pas	—	—
Mac Studio M4 Max 128 Go	ne tient pas	—	—

Machine complète estimée : cartes + PC hôte (900 € pour 1 à 2 cartes grand public, 2 800 € au-delà, 6 000 € de serveur pour les cartes datacenter). Les Mac et mini-PC sont vendus complets.