Installer Ollama sur un Raspberry Pi 5

Installez Raspberry Pi OS Lite 64 bits avec Raspberry Pi Imager. La version Lite, sans bureau graphique, libère environ un gigaoctet de RAM — ce qui, sur cette machine, se traduit directement en taille de modèle utilisable.

sudo apt update && sudo apt full-upgrade -y
sudo apt install -y curl htop

# Contrôles de base
uname -m          # attendu : aarch64
free -h           # attendu : ~8 Go
vcgencmd measure_temp

C'est le seul changement matériel qui transforme réellement l'expérience. Charger un modèle de 2,5 Go depuis une microSD prend une trentaine de secondes ; depuis un NVMe, quelques secondes.

# Activer le PCIe et sa deuxième génération
sudo rpi-eeprom-config --edit
# ajouter :  PCIE_PROBE=1

# Dans /boot/firmware/config.txt
dtparam=pciex1
dtparam=pciex1_gen=3

sudo reboot

Copiez ensuite le système sur le SSD avec l'outil SD Card Copier de Raspberry Pi OS, ou clonez la partition, puis changez l'ordre de démarrage dans l'EEPROM.

curl -fsSL https://ollama.com/install.sh | sh

# Le service démarre automatiquement
systemctl status ollama
ollama --version

L'installeur détecte l'architecture ARM64 et pose le binaire adapté. Aucune compilation n'est nécessaire.

Sur un Pi 5 8 Go sans interface graphique, le point d'équilibre se situe autour de 3 à 4 milliards de paramètres.

# Recommandé : bon français, licence Apache 2.0
ollama run qwen3:4b

# Plus rapide, pour un usage question-réponse court
ollama run llama3.2:3b

# Sur un Pi 4 en 4 Go, rester ici
ollama run llama3.2:1b

Ces valeurs sont des ordres de grandeur : mesurez les vôtres, la méthode est dans le guide Mesurer avant d'optimiser.

Par défaut, Ollama n'écoute que sur la machine elle-même. Pour que les postes de la salle y accèdent, il faut le faire écouter sur le réseau local — et seulement sur le réseau local.

sudo systemctl edit ollama

[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
Environment="OLLAMA_KEEP_ALIVE=10m"
Environment="OLLAMA_NUM_PARALLEL=1"

sudo systemctl daemon-reload
sudo systemctl restart ollama

# Depuis un autre poste du réseau
curl http://IP-DU-PI:11434/api/tags

Un Pi 5 sans refroidissement actif se bride au bout de quelques minutes de génération continue, et le débit chute d'un tiers. Le dissipateur officiel suffit.

# Surveiller pendant une génération longue
watch -n 2 'vcgencmd measure_temp; vcgencmd get_throttled'

# 0x0 = aucun bridage. Toute autre valeur = problème thermique ou d'alimentation.

Côté mémoire, activez zram plutôt qu'un fichier d'échange sur disque : la compression en RAM absorbe les pics sans détruire le SSD.

sudo apt install -y zram-tools
echo -e 'ALGO=zstd\nPERCENT=50' | sudo tee -a /etc/default/zramswap
sudo systemctl restart zramswap

1. systemctl status ollama indique active (running).
2. ollama ps montre le modèle chargé et sa taille en mémoire.
3. Une requête depuis un autre poste du réseau reçoit une réponse.
4. Câble réseau débranché, la génération fonctionne toujours.
5. vcgencmd get_throttled renvoie 0x0 après cinq minutes de charge.