Une requête, c'est combien ?
Selon la tâche, une requête consomme autant qu'une ampoule LED allumée pendant 0,21 seconde… ou pendant 32 minutes.
Chaque barre est une tâche demandée à une IA. Sa longueur indique combien de temps une ampoule LED resterait allumée avec la même électricité. Les repères du bas ne sont pas espacés régulièrement : chacun représente une durée bien plus longue que le précédent, sinon les petites barres seraient invisibles.
Graphique de barres horizontales : une barre par tâche, de la plus gourmande (Raisonnement (texte), 32 min) à la plus sobre (Similarité de phrases, 0,21 s) d'ampoule LED allumée. L'échelle est logarithmique.
- Raisonnement (texte)32 min
- Génération d'images2,1 min
- Légendage d'images37 s
- Génération de texte (réponse directe)13 s
- Reconnaissance de la parole5,96 s
- Résumé de texte1,27 s
- Détection d'objets1,18 s
- Réponse à des questions0,36 s
- Classification d'images0,30 s
- Classification de texte0,29 s
- Similarité de phrases0,21 s
Ce qu'il faut retenir
L'écart entre la tâche la plus légère et la plus lourde est immense. Parler de « la » consommation d'une requête n'a pas de sens sans dire de quelle tâche il s'agit.
Ce que ce graphique ne dit pas
Ces mesures sont faites sur une machine de test, avec des modèles ouverts. Elles ne disent pas ce que consomment les services que vous utilisez au quotidien, ni l'électricité dépensée pour entraîner les modèles.