Ir al contenido

Este contenido sigue en francés

La página está traducida, pero su contenido detallado todavía no. Las fichas, las guías y los catálogos se muestran en francés: preferimos darte el original antes que una traducción automática aproximada. Ver el sitio en francés

Régler la latence

Sur un Raspberry Pi 5, comptez environ : deux à quatre secondes de transcription, une à deux secondes avant le premier mot du modèle, moins d'une seconde de synthèse. Le total reste sous les dix secondes, ce qui est acceptable pour un dialogue posé.

  • Passer whisper de small à base divise la transcription par deux, au prix de quelques erreurs.
  • Contraindre la réponse à deux phrases dans le prompt réduit fortement le temps de génération.
  • Découper la réponse en phrases et lancer la synthèse au fil de l'eau donne l'impression d'une réaction immédiate.
  • Garder le modèle chargé (OLLAMA_KEEP_ALIVE) évite plusieurs secondes de rechargement à chaque tour.