Skip to content

This content is still in French

The page itself is translated, but its detailed content is not yet. Hardware sheets, guides and catalogues are still shown in French: we would rather give you the original than a rough machine translation. View the French site

Choisir sa quantification GGUF Étape 2 sur 7

Lire les suffixes

  • Le chiffre — Q4, Q5, Q8 : le nombre de bits par poids, en moyenne.
  • La lettre K — quantification « par blocs » de nouvelle génération, meilleure à taille égale que les anciens formats. À privilégier.
  • S / M / L — small, medium, large : à l'intérieur d'un même niveau, la variante M protège mieux les couches sensibles.
  • Le préfixe I — importance matrix : la quantification est guidée par un jeu de données de calibration. Très efficace en dessous de 4 bits.