Dimensionner pour trente élèves

Trente élèves ne posent pas trente questions simultanées. En pratique, la charge se répartit et une file d'attente d'une à deux requêtes suffit — à condition que chaque réponse arrive vite.

Si la classe entière doit interroger le modèle en même temps, deux options : un modèle plus petit, ou deux serveurs et une répartition par demi-groupe. La seconde revient souvent moins cher qu'une carte graphique.