Este conteúdo ainda está em francês
A página está traduzida, mas o conteúdo detalhado ainda não. As fichas, os guias e os catálogos continuam em francês: preferimos mostrar-lhe o original a uma tradução automática aproximada. Ver o site em francês
Mesurer avant d'optimiser
Étape 1 sur 6
Avant de commencer
- llama.cpp compilé, ou au minimum Ollama installé
- Un wattmètre de prise (environ 15 €) pour la partie énergie
Les trois chiffres
| Chiffre | Ce qu'il mesure | Ce qu'il détermine |
|---|---|---|
| pp — prompt eval (tok/s) | Vitesse de lecture de la question et du contexte | Le délai avant le premier mot |
| tg — text generation (tok/s) | Vitesse de production de la réponse | Le confort de lecture |
| W — watts à la prise | Consommation réelle en charge | Le coût, l'autonomie, l'argument écologique |
Le seuil du confortableEn dessous de 5 tokens par seconde, l'utilisateur attend visiblement. Entre 5 et 10, la réponse arrive à peu près à la vitesse de lecture. Au-delà de 15, la différence ne se perçoit plus.