Catalogue · 26 modèles
Combien de VRAM pour chaque LLM ?
Mémoire nécessaire en Q4, Q8 et FP16 avec 8k tokens de contexte, et la machine la moins chère qui le fait tourner. Cliquez sur un modèle pour le détail par contexte et par carte.
Dense · Llama2024-07
Llama 3.1 8B8,0 Md · dense6 GoQ410 GoQ818 GoFP16
Dès : RTX 3060 12 Go · 1 180 €
Dense · Llama2024-12
Llama 3.3 70B71 Md · dense47 GoQ481 GoQ8151 GoFP16
Dès : Mini-PC Ryzen AI Max+ 395 128 Go · 2 300 €
Dense · Llama2024-07
Llama 3.1 405B405 Md · dense259 GoQ4455 GoQ8855 GoFP16
Dès : Mac Studio M3 Ultra 512 Go · 11 500 €
Aucun modèle trouvé.