Kamorion

Blog · FinOps · · 5 min de lecture

Rightsizing : pourquoi dimensionner sur la moyenne CPU coûte cher

Un rapport de rightsizing fondé sur la moyenne CPU promet toujours de belles économies, et recommande souvent de couper là où la charge monte. Nous dimensionnons sur la distribution des pics horaires, et l’économie sûre est rarement celle annoncée.

Tous les outils de rightsizing finissent par produire le même rapport : des services qui tournent à 3 % de CPU en moyenne, et une recommandation de diviser leur taille par deux. L’économie paraît évidente. Elle est souvent dangereuse.

Une charge web passe l’essentiel de son temps au repos : la nuit, le week-end, entre deux vagues de trafic. Une moyenne à 3 % est banale. Elle décrit le temps calme, pas le moment où le service doit tenir.

Ce que nous avons mesuré

Sur une plateforme de cinq services conteneurisés en production (ECS sur Fargate), tous affichaient une moyenne CPU sous 8 % sur 30 jours. Le rapport suggérait de réduire chacun. Avant de toucher à quoi que ce soit, nous avons relu la même période autrement : non plus la moyenne, mais la distribution des maxima horaires.

ServiceMoyenne 30 jp99 des pics horairesPic absolu
API interne0,34 %4,41 %5,72 %
Service métier A2,07 %17,43 %46,42 %
Service métier B2,12 %17,83 %47,41 %
Front web2,33 %42,12 %59,20 %
CMS4,23 %64,00 %68,29 %

La lecture change complètement. Diviser le CMS par deux l’aurait placé à environ 136 % de sa capacité au pic. Le front web aurait frôlé la saturation. Au final, un seul service avait un pic assez bas pour être réduit sans risque, et l’économie sûre ne représentait qu’une petite fraction de celle annoncée.

Dimensionner sur la moyenne

Cinq services sous 8 % : tout réduire

Économie maximale sur le papier

Saturation découverte en production

Dimensionner sur les pics

Un seul service au pic bas : le réduire, garder les autres

Économie plus modeste, mais réelle

Marge connue avant de changer quoi que ce soit

La même période, deux conclusions opposées.

La méthode que nous appliquons

Nous ne concluons jamais sur la moyenne. Nous récupérons les maxima horaires sur au moins 30 jours, soit environ 720 valeurs, puis nous lisons leurs quantiles. Le dimensionnement se fait sur le p99, avec une marge.

Sur ECS, la métrique CPUUtilization du namespace AWS/ECS suffit :

aws cloudwatch get-metric-statistics --namespace AWS/ECS --metric-name CPUUtilization \
  --dimensions Name=ClusterName,Value=<cluster> Name=ServiceName,Value=<service> \
  --start-time 2026-10-23T00:00:00Z --end-time 2026-11-22T00:00:00Z \
  --period 3600 --statistics Maximum \
  --query 'Datapoints[].Maximum' --output json \
| jq 'sort | {n: length,
             p50: .[(length * 0.50 | floor)],
             p95: .[(length * 0.95 | floor)],
             p99: .[(length * 0.99 | floor)],
             max: .[-1]}'

Pourquoi calculer les quantiles à la main ? Parce que, sur cette métrique, nous n’avons pas pu obtenir les percentiles natifs de CloudWatch (--extended-statistics) sans Container Insights. Trier les maxima horaires donne une réponse fiable, sans rien activer de plus.

Le principe vaut pour n’importe quelle ressource : instances EC2, bases de données, pods Kubernetes. Seule la source de la métrique change.

Quatre pièges à garder en tête

La grille de la plateforme est contrainte. Sur Fargate, CPU et mémoire ne se règlent pas indépendamment. Une tâche à 2 vCPU ne peut pas descendre sous 4 Go de mémoire. Un service dont le CPU est justifié mais la mémoire inutilisée n’est donc pas réductible, quoi qu’en dise le rapport.

La métrique de service agrège les tâches. La valeur CPUUtilization d’un service ECS résume l’ensemble de ses tâches. Le pic d’une tâche isolée peut être plus haut que ce que montre la métrique. Si la répartition de charge est inégale, la marge réelle est plus faible qu’elle n’en a l’air.

Moins de tâches n’équivaut pas à des tâches plus petites. Derrière un répartiteur de charge, retirer une tâche sur quatre augmente d’un tiers la charge des trois autres, mais chacune garde sa capacité à absorber une rafale. Réduire la taille de chaque tâche fait l’inverse. Les deux leviers ne se substituent pas.

Un pic isolé peut être un démarrage. Un pic à plus de 60 % sur un service qui tourne en moyenne sous 1 % ressemble souvent à l’initialisation d’un conteneur. Il faut le confirmer, en le rapprochant des déploiements et des redémarrages, plutôt que de l’ignorer ou de dimensionner dessus.

Le CPU n’est pas toujours la bonne ressource

Le même raisonnement s’applique à d’autres signaux. Sur un cluster OpenSearch, la métrique qui décide du dimensionnement est la pression sur le heap JVM (JVMMemoryPressure), pas le CPU. Un cluster dont le CPU paraît bas peut avoir un heap qui frôle sa limite en continu. Le réduire sur la foi du CPU l’exposerait à des pauses de ramasse-miettes et aux disjoncteurs de mémoire. Le bon levier est alors souvent de changer de famille d’instance, vers plus de mémoire par vCPU.

Sur Kubernetes, c’est la valeur des requests qui pose problème dans l’autre sens. Karpenter ne voit que les requests pour choisir et consolider les nœuds. Un pod dont le requests.cpu est très bas, sans limite CPU, utilise en pratique la CPU libre de son nœud. À chaque consolidation, Karpenter peut le replacer sur un nœud plus petit qui satisfait encore les requests. Personne n’a décidé de réduire ce pod, et pourtant sa puissance réelle baisse. Ici aussi, la correction consiste à aligner le request sur l’usage soutenu observé, autour du p95, et non sur une moyenne.

Redimensionner avant de s’engager

Dernier point, et sans doute le plus coûteux : l’ordre des opérations. Un Savings Plan ou une instance réservée engage une dépense sur un ou trois ans. La recommandation d’achat d’AWS se calcule sur la consommation observée. Si cette consommation inclut du surdimensionnement, l’engagement le reproduit et le fige pour toute sa durée.

Mesurermaxima horaires sur 30 jours, par service
Dimensionnersur le p99 avec une marge, en tenant compte de la grille
Observervérifier le comportement après changement
S’engagerSavings Plan ou réservation sur la consommation corrigée
L’engagement vient en dernier, une fois la taille et la famille stabilisées.

À retenir

  • Une moyenne CPU basse est la norme, pas un signal de gaspillage.
  • Lisez la distribution des pics horaires sur au moins 30 jours et dimensionnez sur le p99, avec une marge.
  • Vérifiez les contraintes de la plateforme et la bonne ressource à mesurer avant de chiffrer une économie.
  • Redimensionnez d’abord, engagez-vous ensuite.

Nous menons ces analyses dans nos missions de FinOps, en lien avec le suivi de capacité de nos missions SRE et observabilité. Un rapport de rightsizing vous promet des économies qui paraissent trop belles ? Parlons-en.

Contact

Commençons par un audit

Nous lisons votre plateforme : ce qui est en code et ce qui ne l’est pas, ce qui vous expose, ce qui vous coûte, et ce que nous ferions en premier.

  • Premier échange sans engagement
  • Un diagnostic écrit, qui reste à vous
  • Accès en lecture seule pendant l’audit

Ou écrivez-nous : [email protected]