Ir al contenido

Este contenido sigue en francés

La página está traducida, pero su contenido detallado todavía no. Las fichas, las guías y los catálogos se muestran en francés: preferimos darte el original antes que una traducción automática aproximada. Ver el sitio en francés

Point de départ

Par où commencer

Trois questions suffisent à savoir quoi installer : ce que vous avez comme machine, ce que vous voulez en faire, et combien de personnes vont s'en servir. Le reste découle.

Le diagnostic en deux réglages

Réglez la mémoire de votre machine et l'usage visé : la recommandation se met à jour.

Ces recommandations supposent un système Linux sans bureau graphique et un contexte de 4 096 tokens. Avec une interface graphique ou un navigateur ouvert, descendez d'un cran. La méthode complète est dans le guide dimensionner sa RAM.

Le chemin complet

Six étapes, dans cet ordre. Chacune renvoie au guide qui la détaille.

1

Faire tourner un premier modèle

Trente minutes, la machine que vous avez, trois commandes. C'est le passage obligé : tout le reste suppose que ça tourne.

Suivre le pas à pas · tout lire

2

Comprendre ce qui tient en mémoire

Le calcul poids du modèle + contexte + système. C'est ce qui explique pourquoi un modèle rame, et ce qu'il faut changer.

Suivre le pas à pas · tout lire

3

Choisir la bonne variante du modèle

Q4_K_M par défaut, et les cas où il faut en sortir. Dix minutes de lecture qui évitent des heures d'essais.

Suivre le pas à pas · tout lire

4

Installer proprement sur la machine cible

Système, stockage, service au démarrage, refroidissement. La différence entre une maquette et un poste qui tient l'année.

Suivre le pas à pas · tout lire

5

Ouvrir l'usage à d'autres personnes

Interface web, comptes, droits, dimensionnement de la file d'attente. Le moment où le projet devient un service.

Suivre le pas à pas · tout lire

6

Mesurer et documenter

Débit, consommation, journal de mesures. Sans chiffres, impossible de défendre le déploiement ni de l'améliorer.

Suivre le pas à pas · tout lire

Les erreurs qui coûtent le plus de temps

Acheter avant de mesurer Le réflexe est de commander du matériel. Commencez par installer sur ce qui existe : dans la moitié des cas, un portable réformé fait mieux que la carte SBC qu'on s'apprêtait à acheter.
Viser le plus gros modèle possible Un modèle 8B à 2 tokens par seconde sera abandonné en une semaine. Un 3B instantané sera utilisé tous les jours. Le confort d'usage compte plus que le score aux comparatifs.
Laisser le contexte par défaut Une fenêtre de 32 768 tokens réserve plusieurs gigaoctets en permanence, même pour répondre « bonjour ». C'est la première cause d'effondrement du débit sur petite machine.
Négliger le refroidissement Une carte bridée thermiquement perd un tiers de son débit sans rien signaler. Vérifiez la température avant d'incriminer le modèle.
Ce qui marche à tous les coups Mesurer, écrire le chiffre, changer une seule chose, remesurer. C'est lent la première fois et c'est ce qui fait gagner les semaines suivantes.