27 mots
Ce domaine est plein de jargon, et le jargon met les gens dehors. Chaque mot du site est défini ici en une phrase, suivie d'une comparaison avec quelque chose de connu. Aucune définition n'utilise un mot qui aurait besoin d'être défini à son tour.
Une intelligence artificielle qui fonctionne sur votre propre machine, sans passer par internet.
Autrement dit — Comme une calculatrice : elle est posée sur la table, elle marche même si la box est débranchée, et personne d'autre ne voit ce que vous tapez.
Sans connexion internet. Une IA locale a besoin d'internet une seule fois, pour être installée.
Autrement dit — Comme une série téléchargée avant un voyage : le téléchargement demande du réseau, le visionnage non.
Le fichier qui contient l'intelligence artificielle elle-même. C'est lui qui répond à vos questions.
Autrement dit — C'est le cerveau, livré dans un gros fichier de 1 à 5 gigaoctets — la taille de quelques films.
Ce que vous écrivez à l'IA : votre question, votre consigne, votre demande.
Autrement dit — C'est la commande que vous passez. Plus elle est précise, meilleur est le résultat — exactement comme avec un artisan.
Quand l'IA invente une information fausse en la présentant avec assurance.
Autrement dit — Ce n'est pas un mensonge ni une panne : la machine cherche la suite la plus plausible, pas la vérité. D'où la règle numéro un : vérifier.
Tout ce qui permet de vous identifier : nom, adresse, école, photo, mais aussi ce que vous écrivez.
Autrement dit — Avec une IA locale, ces données ne bougent pas de la machine. C'est vérifiable : débranchez le réseau, ça marche toujours.
Un logiciel que chacun peut utiliser, examiner, modifier et redistribuer gratuitement.
Autrement dit — Comme une recette de cuisine publiée : vous pouvez la lire, la refaire, l'adapter, et la donner à votre voisin.
L'espace de travail de la machine. C'est elle qui décide de la taille du modèle que vous pourrez faire tourner.
Autrement dit — C'est le plan de travail d'une cuisine : plus il est grand, plus vous pouvez préparer de choses en même temps. Le disque dur, lui, c'est le placard.
Un ordinateur complet de la taille d'une carte bancaire, vendu entre 45 et 100 €.
Autrement dit — Un ordinateur nu : on y branche un écran, un clavier, et ça fonctionne. Il consomme autant qu'une ampoule.
Un petit ordinateur de bureau, sans écran, de la taille d'un livre. Autour de 150 €.
Autrement dit — Plus puissant qu'une carte SBC, plus sobre qu'une tour classique. Le bon choix pour servir toute une salle.
L'unité de consommation électrique. Une borne SATI consomme 6 W en fonctionnement.
Autrement dit — 6 W, c'est une ampoule LED. Un ordinateur de bureau avec carte graphique, c'est 30 fois plus.
La puce qui calcule. Sur ces machines, l'IA tourne sur le processeur, sans carte graphique.
Autrement dit — Contre-intuitif mais vrai : ce qui limite la vitesse, ce n'est pas la puissance de calcul, c'est la rapidité avec laquelle la machine lit sa mémoire.
Le nombre de réglages internes du modèle, en milliards. 4B = 4 milliards.
Autrement dit — C'est la « taille du cerveau ». Plus il y en a, meilleures sont les réponses — et plus la machine doit être grosse.
Un morceau de mot. L'IA lit et écrit par tokens, pas par lettres.
Autrement dit — Comptez environ trois quarts de mot par token. « anticonstitutionnellement » en fait plusieurs, « le » en fait un.
La vitesse à laquelle l'IA écrit sa réponse.
Autrement dit — En dessous de 5, on attend visiblement. Entre 5 et 10, ça arrive à votre vitesse de lecture. Au-delà de 15, la différence ne se voit plus.
Une compression du modèle qui divise sa taille par trois ou quatre, avec une perte de qualité faible.
Autrement dit — Comme un MP3 par rapport au CD : beaucoup plus léger, et la différence s'entend à peine. Q4_K_M est le réglage par défaut.
Le format de fichier des modèles compressés utilisés sur petite machine.
Autrement dit — Un format de fichier, comme .mp3 pour la musique ou .pdf pour un document. Vous n'avez pas à vous en occuper si vous utilisez Ollama.
La quantité de texte que l'IA garde en tête pendant une conversation.
Autrement dit — C'est sa mémoire courte. Un grand contexte permet de lui donner un long document, mais il occupe de la place en permanence, même quand vous ne vous en servez pas.
Des consignes permanentes qui cadrent le comportement de l'IA, invisibles pour l'utilisateur.
Autrement dit — La fiche de poste : « tu es un assistant de maths, tu ne donnes jamais le résultat directement ». Elle s'applique à toutes les conversations.
Une méthode qui permet à l'IA de répondre à partir de vos propres documents.
Autrement dit — On ne réapprend rien à l'IA : on lui met sous les yeux les bons passages de vos documents au moment de la question, comme un aide-mémoire.
Le logiciel qui télécharge les modèles et les fait tourner. Le plus simple pour débuter.
Autrement dit — C'est le lecteur : lui s'occupe de la technique, vous n'avez qu'à choisir le modèle.
Le moteur d'inférence qui fait réellement tourner le modèle. Ollama s'en sert par-dessous.
Autrement dit — Le moteur sous le capot. On y touche seulement quand on cherche les derniers pourcents de vitesse.
Une interface de conversation qui s'ouvre dans le navigateur, avec des comptes et un historique.
Autrement dit — L'écran de chat, celui que voient les utilisateurs. Sans lui, tout se passe dans le terminal.
La fenêtre noire où l'on tape des commandes au lieu de cliquer.
Autrement dit — Impressionnant, mais on ne fait que recopier les lignes données dans les guides. Aucune n'est à inventer.
Un fichier contenant une suite de commandes, exécutées les unes après les autres.
Autrement dit — La liste de courses de l'installation. Le générateur du site l'écrit pour vous ; vous n'avez qu'à la relire et la lancer.
Un programme qui démarre tout seul avec la machine et tourne en arrière-plan.
Autrement dit — Comme le chauffe-eau : il se met en route sans qu'on y pense, et on ne le voit que s'il tombe en panne.
Une machine qui démarre directement sur l'application, sans bureau ni menu.
Autrement dit — Comme une borne de gare : on l'allume, elle affiche ce qu'il faut, et il n'y a rien d'autre à faire.
Si vous avez buté sur un terme quelque part sur ce site, c'est un défaut de notre part, pas du vôtre. Signalez-le et il sera ajouté ici.