La mesure et l'estimation disent-elles la même chose ?
Non. Pour deux modèles de même taille, l'estimation donne le même chiffre ; la mesure trouve un écart de ×14.
Les deux modèles ont la même taille : 70 milliards de paramètres (les réglages internes du modèle). À gauche, ce que calcule l'estimation. À droite, ce que lit le compteur en laboratoire. Plus la barre est haute, plus la requête consomme. Chaque panneau a sa propre échelle, car les deux unités ne sont pas les mêmes : ce sont les écarts qui se comparent.
Deux panneaux de deux barres verticales pour deux modèles de 70 milliards de paramètres (Apertus-70B et DeepSeek-R1 Distill 70B). Panneau estimé : les deux barres sont identiques (0,66 Wh pour 1 000 tokens). Panneau mesuré : 0,70 Wh et 0,05 Wh par requête, soit un écart de ×14.
Même chiffre
Écart : ×14
Ce qu'il faut retenir
L'estimation se fonde surtout sur la taille du modèle : deux modèles de même taille reçoivent donc le même chiffre. Mesurés, ils peuvent consommer très différemment.
Ce que ce graphique ne dit pas
Il ne compare que deux modèles. Il ne dit pas lequel des deux chiffres est le plus proche de ce que consomment vos conversations réelles.