Passionné3 500 €
Un modèle 32B sur une seule carte
Les 32 Go de la RTX 5090 logent un 32B en Q4 avec un long contexte, et sa bande passante le rend très réactif.
Modèle Qwen3 32BMatériel RTX 5090 32 GoPrécision Q4_K_MMoteur llama.cppContexte 32k
Mémoire29 / 32 Go
Vitesse estimée~50 tok/s
Consommation575 W
Occupation de la mémoire91 %
llama-server -hf unsloth/Qwen3-32B-GGUF:Q4_K_M -ngl 99 -c 32768