Este contenido sigue en francés
La página está traducida, pero su contenido detallado todavía no. Las fichas, las guías y los catálogos se muestran en francés: preferimos darte el original antes que una traducción automática aproximada. Ver el sitio en francés
Choisir sa quantification GGUF
Étape 2 sur 7
Lire les suffixes
- Le chiffre — Q4, Q5, Q8 : le nombre de bits par poids, en moyenne.
- La lettre K — quantification « par blocs » de nouvelle génération, meilleure à taille égale que les anciens formats. À privilégier.
- S / M / L — small, medium, large : à l'intérieur d'un même niveau, la variante M protège mieux les couches sensibles.
- Le préfixe I — importance matrix : la quantification est guidée par un jeu de données de calibration. Très efficace en dessous de 4 bits.