This content is still in French
The page itself is translated, but its detailed content is not yet. Hardware sheets, guides and catalogues are still shown in French: we would rather give you the original than a rough machine translation. View the French site
Interroger ses propres documents hors ligne
Étape 6 sur 6
Ce qui rate en pratique
- Le modèle invente malgré tout. Renforcez la consigne : « si l'information ne figure pas dans les extraits, réponds que tu ne sais pas ». Un petit modèle a besoin qu'on insiste.
- Les extraits sont hors sujet. Le modèle d'embedding ne convient pas à la langue du corpus, ou le découpage est trop fin.
- La réponse est incomplète. Quatre extraits ne suffisent pas ; passez à six ou huit, en surveillant la taille du contexte.
- L'indexation est interminable sur SBC. Indexez sur un poste plus puissant et copiez le fichier
.db: le résultat est identique.
L'alternative sans codeSi vous ne souhaitez pas écrire de script, AnythingLLM et Open WebUI font la même chose dans une interface graphique. Ce guide reste utile pour comprendre ce qu'ils font, et pour reprendre la main quand la qualité déçoit.