Matériel · 22 cartes et machines

Quel GPU pour faire tourner un LLM ?

Cartes grand public, stations pro, datacenter et machines à mémoire unifiée (Mac, DGX Spark, mini-PC AMD) : VRAM, bande passante, prix au Go et plus gros modèle chargeable.

Tous22 Grand public11 Pro / station2 Datacenter5 Mémoire unifiée4

Datacenter42 000 €

B200 192 Go

192Go

Bande passante: 8 000 Go/s
Consommation: 1000 W
€ par Go utile: 250 €
Llama 8B Q4: ~889 tok/s

Plus gros modèle seul (Q4) : Qwen3 235B-A22B

Datacenter33 000 €

H200 141 Go

141Go

Bande passante: 4 800 Go/s
Consommation: 700 W
€ par Go utile: 277 €
Llama 8B Q4: ~533 tok/s

Plus gros modèle seul (Q4) : Mistral Large 123B

Datacenter11 000 €

A100 80 Go

80Go

Bande passante: 2 039 Go/s
Consommation: 300 W
€ par Go utile: 213 €
Llama 8B Q4: ~227 tok/s

Plus gros modèle seul (Q4) : gpt-oss-120b

Datacenter28 000 €

H100 80 Go

80Go

Bande passante: 3 350 Go/s
Consommation: 700 W
€ par Go utile: 425 €
Llama 8B Q4: ~372 tok/s

Plus gros modèle seul (Q4) : gpt-oss-120b

Datacenter7 500 €

L40S 48 Go

48Go

Bande passante: 864 Go/s
Consommation: 350 W
€ par Go utile: 281 €
Llama 8B Q4: ~96 tok/s

Plus gros modèle seul (Q4) : Llama 3.3 70B