Combien de VRAM pour chaque LLM ?

Mémoire nécessaire en Q4, Q8 et FP16 avec 8k tokens de contexte, et la machine la moins chère qui le fait tourner. Cliquez sur un modèle pour le détail par contexte et par carte.