Adapter un modèle à un usage précis, sans le réentraîner
Étape 3 sur 6
Les réglages qui comptent
| Paramètre | Rôle | Valeur conseillée |
|---|---|---|
| temperature | Part d'aléatoire dans le choix des mots | 0,1 à 0,3 pour du factuel ; 0,7 à 0,9 pour de la création |
| num_ctx | Taille de la fenêtre de contexte | La plus petite qui suffise — c'est de la RAM |
| top_p | Diversité du vocabulaire | 0,9 convient presque toujours |
| repeat_penalty | Lutte contre les répétitions | 1,1 ; monter si le modèle boucle |
| num_predict | Longueur maximale de la réponse | À limiter sur une borne vocale |
Le réglage le plus rentableBaisser la température. Un petit modèle à température élevée invente ; le même à 0,2 reste sur ce qu'il sait. Sur du contenu scolaire, c'est le premier levier de fiabilité.