Mémoire unifiée · Apple mémoire unifiée
Mac Studio M3 Ultra 512 Go : quels LLM peut-il faire tourner ?
Sur 512 Go de mémoire unifiée, environ 384 Go sont utilisables par le GPU. Seul, il charge jusqu’à Llama 3.1 405B en Q4. C’est une machine complète : impossible d’y ajouter des cartes.
Caractéristiques
Mémoire512 Go
Bande passante819 Go/s
Calcul FP16~57 TF
Consommation270 W
Prix indicatif11 500 €
€ par Go utile30 €
Face aux cartes de même prix
Recettes avec ce matériel
Qwen3 235B sur un seul Mac11 500 €
Modèles et vitesse attendue
| Modèle | Q4 | Q8 | FP16 |
|---|---|---|---|
| Qwen3 4B | ✓ ~177 tok/s | ✓ ~103 tok/s | ✓ ~55 tok/s |
| Llama 3.1 8B | ✓ ~91 tok/s | ✓ ~52 tok/s | ✓ ~28 tok/s |
| Qwen3 8B | ✓ ~89 tok/s | ✓ ~51 tok/s | ✓ ~27 tok/s |
| Gemma 3 12B | ✓ ~61 tok/s | ✓ ~35 tok/s | ✓ ~19 tok/s |
| Mistral Nemo 12B | ✓ ~60 tok/s | ✓ ~34 tok/s | ✓ ~18 tok/s |
| Phi-4 14B | ✓ ~50 tok/s | ✓ ~29 tok/s | ✓ ~15 tok/s |
| Qwen3 14B | ✓ ~50 tok/s | ✓ ~28 tok/s | ✓ ~15 tok/s |
| gpt-oss-20b | ✓ ~195 tok/s | ✓ ~114 tok/s | ✓ ~61 tok/s |
| Mistral Small 24B | ✓ ~31 tok/s | ✓ ~18 tok/s | ✓ ~9,4 tok/s |
| Gemma 3 27B | ✓ ~28 tok/s | ✓ ~16 tok/s | ✓ ~8,3 tok/s |
| Qwen3.8 27B | ✓ ~27 tok/s | ✓ ~15 tok/s | ✓ ~8,0 tok/s |
| Qwen3 30B-A3B | ✓ ~211 tok/s | ✓ ~123 tok/s | ✓ ~67 tok/s |
| Qwen3 32B | ✓ ~23 tok/s | ✓ ~13 tok/s | ✓ ~6,9 tok/s |
| Qwen2.5 Coder 32B | ✓ ~23 tok/s | ✓ ~13 tok/s | ✓ ~6,9 tok/s |
| DeepSeek R1 Distill 32B | ✓ ~23 tok/s | ✓ ~13 tok/s | ✓ ~6,9 tok/s |
| Mixtral 8x7B | ✓ ~57 tok/s | ✓ ~33 tok/s | ✓ ~17 tok/s |
| Llama 3.3 70B | ✓ ~11 tok/s | ✓ ~6,0 tok/s | ✓ ~3,2 tok/s |
| GLM-4.5-Air 106B | ✓ ~61 tok/s | ✓ ~35 tok/s | ✓ ~19 tok/s |
| gpt-oss-120b | ✓ ~140 tok/s | ✓ ~81 tok/s | ✓ ~44 tok/s |
| Mistral Large 123B | ✓ ~6,1 tok/s | ✓ ~3,5 tok/s | ✓ ~1,8 tok/s |
| Qwen3 235B-A22B | ✓ ~34 tok/s | ✓ ~19 tok/s | ✗ |
| GLM-4.5 355B | ✓ ~23 tok/s | ✗ | ✗ |
| Llama 3.1 405B | ✓ ~1,9 tok/s | ✗ | ✗ |
| DeepSeek R1 671B | ✗ | ✗ | ✗ |
| DeepSeek V3.1 671B | ✗ | ✗ | ✗ |
| Kimi K2 1T | ✗ | ✗ | ✗ |
8k tokens, un utilisateur. « 2 × » = nombre de cartes nécessaires, vitesse en parallélisme tensoriel (vLLM). ✗ = ne tient pas, même à 1 cartes.