Soutenance de Maxime AGUSTI sous la codirection nationale d'Eddy CARON et Laurent LEFèVRE
Résumé de la thèse
La croissance de la demande en calcul numérique et l'essor de l'intelligence artificielle placent l'efficacité énergétique au cœur des enjeux stratégiques des centres de données. Si la mesure de la consommation globale est une pratique courante, l'obtention d'une granularité fine à l'échelle du serveur individuel se heurte à des verrous économiques et opérationnels. Le déploiement massif de wattmètres physiques représente un coût prohibitif, tandis que les estimations logicielles traditionnelles nécessitent un agent de collecte dans le système d'exploitation, rendue impossible dans les environnements de serveurs bare metal (machine physiques louées sans couche de virtualisation intermédiaire) ou de GPU en pass-through en raison des impératifs de sécurité et d'isolation. Cette thèse propose une approche de métrologie énergétique pragmatique et non-intrusive, fondée sur l'exploitation des canaux auxiliaires thermiques. L'hypothèse centrale est que la température des composants, accessible via les interfaces de gestion matérielle standard, constitue une variable de substitution fiable pour reconstituer la consommation électrique sans outre-passer l'étanchéité entre l'opérateur et le client. Nos travaux s'articulent autour de trois contributions réalisées sur l'infrastructure de production d'OVHcloud. Premièrement, nous introduisons la méthode PowerHeat, capable d'estimer la puissance d'un serveur bare metal via la température de son processeur. Cette approche intègre une compensation spécifique pour neutraliser l'inertie et le bruit thermique inhérents aux systèmes de refroidissement liquide. Deuxièmement, pour lever le verrou du passage à l'échelle sur un parc hétérogène et non instrumenté, nous développons la méthodologie PPEM-BM. En combinant une bibliothèque de modèles de référence et des techniques d'apprentissage du classement, cette méthode permet de transférer la capacité d'estimation vers des milliers de serveurs dépourvus de capteurs de puissance en sélectionnant dynamiquement le modèle le plus pertinent selon le profil matériel et thermique. Enfin, nous étendons cette approche aux GPU exploités en mode pass-through. Face à l'opacité de ces composants pour l'hébergeur, notre modélisation thermique permet de retrouver une visibilité sur leur consommation et leur taux d'usage réel. L'application de cette méthode sur un cluster de production révèle notamment une sous-utilisation massive des ressources, ouvrant la voie à de nouvelles stratégies de consolidation. En transformant une dissipation thermique en source d'information, cette thèse démontre la faisabilité d'une observabilité énergétique logicielle précise, déployable massivement sans surcoût matériel.
The growing demand for digital computing and the rise of artificial intelligence have placed energy efficiency at the heart of strategic challenges facing data centers. While measuring overall power consumption is standard practice, achieving fine-grained visibility at the individual server level faces economic and operational barriers. The widespread deployment of physical wattmeters is prohibitively expensive, while traditional software-based estimates require a data collection agent within the operating system—a solution that is impossible in bare-metal server environments (physical machines leased without an intermediate virtualization layer) or pass-through GPU environments due to security and isolation requirements. This thesis proposes a pragmatic and non-intrusive energy metrology approach based on the use of auxiliary thermal channels. The central hypothesis is that component temperature, accessible via standard hardware management interfaces, constitutes a reliable proxy variable for estimating power consumption without breaching the privacy barrier between the operator and the customer. Our work centers on three contributions made to OVHcloud’s production infrastructure. First, we introduce the PowerHeat method, which can estimate the power consumption of a bare-metal server based on its processor temperature. This approach incorporates a specific correction to account for the thermal inertia and noise inherent in liquid cooling systems. Second, to overcome the scaling barrier on a heterogeneous and uninstrumented server fleet, we develop the PPEM-BM methodology. By combining a library of reference models with classification learning techniques, this method enables the estimation capability to be extended to thousands of servers lacking power sensors by dynamically selecting the most relevant model based on hardware and thermal profiles. Finally, we extend this approach to GPUs operating in pass-through mode. Given the opacity of these components to the data center operator, our thermal modeling restores visibility into their power consumption and actual utilization rates. Applying this method to a production cluster reveals, in particular, massive underutilization of resources, paving the way for new consolidation strategies. By transforming heat dissipation into a source of information, this thesis demonstrates the feasibility of precise software-based energy observability, deployable at scale without additional hardware costs.
Gratuit
Disciplines