Combien de VRAM pour chaque LLM ?
Mémoire nécessaire en Q4, Q8 et FP16 avec 8k tokens de contexte, et la machine la moins chère qui le fait tourner. Cliquez sur un modèle pour le détail par contexte et par carte.
Dès : RTX 3060 12 Go · 1 180 €
Dès : RTX 3060 12 Go · 1 180 €
Dès : RTX 3060 12 Go · 1 180 €
Dès : RTX 3060 12 Go · 1 180 €
Dès : RTX 3060 12 Go · 1 180 €
Dès : RTX 3060 12 Go · 1 180 €
Dès : RTX 3060 12 Go · 1 180 €
Dès : RTX 4060 Ti 16 Go · 1 350 €
Dès : 2 × RTX 3060 12 Go · 1 460 €
Dès : 2 × RTX 3060 12 Go · 1 460 €
Dès : 2 × RTX 3060 12 Go · 1 460 €
Dès : 2 × RTX 3060 12 Go · 1 460 €
Dès : 2 × RTX 3060 12 Go · 1 460 €
Dès : 2 × RTX 3060 12 Go · 1 460 €
Dès : 2 × RTX 3060 12 Go · 1 460 €
Dès : 2 × RTX 4060 Ti 16 Go · 1 800 €
Dès : Mini-PC Ryzen AI Max+ 395 128 Go · 2 300 €
Dès : Mini-PC Ryzen AI Max+ 395 128 Go · 2 300 €
Dès : Mini-PC Ryzen AI Max+ 395 128 Go · 2 300 €
Dès : Mini-PC Ryzen AI Max+ 395 128 Go · 2 300 €
Dès : Mac Studio M3 Ultra 512 Go · 11 500 €
Dès : Mac Studio M3 Ultra 512 Go · 11 500 €
Dès : Mac Studio M3 Ultra 512 Go · 11 500 €
Dès : 6 × A100 80 Go · 72 000 €
Dès : 6 × A100 80 Go · 72 000 €
Dès : 5 × H200 141 Go · 171 000 €