Skip to content

This content is still in French

The page itself is translated, but its detailed content is not yet. Hardware sheets, guides and catalogues are still shown in French: we would rather give you the original than a rough machine translation. View the French site

Compiler llama.cpp pour tirer le maximum du processeur Étape 5 sur 7

Mesurer, puis régler

Ne réglez rien à l'aveugle. llama-bench donne deux chiffres : le traitement du prompt (pp) et la génération (tg).

shell
# Comparer plusieurs nombres de threads
./build/bin/llama-bench -m ./modeles/Qwen3-4B-Q4_K_M.gguf -t 2,4,8
Le résultat qui surprendSur un processeur à cœurs hétérogènes — quatre gros et quatre petits, comme le RK3588 — utiliser tous les cœurs est souvent plus lent qu'utiliser les quatre performants seuls. Les petits cœurs freinent la synchronisation. Mesurez, ne supposez pas.