La salle des machines de l’IA : au cœur des datacentres haute performance qui alimentent l’avenir

Les dirigeants d’entreprise s’efforcent de mettre en œuvre des stratégies d’IA qui aident leurs organisations à fonctionner de manière plus intelligente et plus efficace. Mais même les personnes chargées d’exploiter la valeur métier de l’IA ne comprennent pas toujours les éléments techniques qui permettent de créer cette valeur.

Aussi impressionnants que soient les algorithmes d’apprentissage automatique actuels, ils ne sont pas magiques. Ils sont bâtis sur du matériel réel fonctionnant dans de véritables datacentres. En réalité, de nombreuses organisations sont confrontées à un problème d’inadéquation des infrastructures : les datacentres qui leur convenaient parfaitement par le passé ne sont plus adaptés aux besoins des nouvelles charges de travail liées à l’IA.

Les entreprises ont besoin de datacentres haute performance conçus en tenant compte de l’IA. Examinons les facteurs qui distinguent les datacentres compatibles avec l’IA des datacentres conventionnels.

Les datacentres évoluent vers une densité de puissance plus élevée

L’adoption plus large de l’IA entraîne une augmentation de la densité de puissance dans les datacentres. La densité de puissance mesure la quantité d’énergie utilisée dans un espace donné. Non seulement les processeurs graphiques consomment plus d’énergie par unité que le matériel traditionnel, mais ils doivent également être plus rapprochés les uns des autres pour limiter la latence. Par conséquent, les opérateurs de datacentres utilisent beaucoup plus d’énergie dans le même espace physique occupé par les racks pour prendre en charge les processeurs graphiques.

Il est remarquable de constater à quelle vitesse la densité de puissance par rack a augmenté dans les datacentres. Jusqu’à il y a quelques années, 5 à 10 kW/rack était une valeur standard. Aujourd’hui, on observe couramment des densités atteignant 100 kW/rack. Cette évolution rapide a eu un impact sur de nombreux éléments d’infrastructure des datacentres, à commencer par les systèmes de refroidissement.

Refroidissement liquide

Cette nouvelle tendance à 100 kW/rack est motivée par le développement de générations de processeurs graphiques de plus en plus denses. On trouve désormais des processeurs graphiques d’une puissance allant jusqu’à 1,2 kW chacun, ce qui signifie qu’un seul processeur représente environ un quart de la densité d’un rack complet de serveurs traditionnels. De plus, un plus grand nombre de processeurs graphiques sont intégrés dans un seul rack afin d’accélérer leur capacité à établir des connexions et à exécuter des modèles plus complexes. Ce type de densité, concentré dans un seul rack, produit beaucoup plus de chaleur que les racks traditionnels. Par conséquent, ces racks nécessitent une solution de refroidissement plus performante. C’est là que le refroidissement liquide entre en jeu.

Comme les liquides sont beaucoup plus efficaces que l’air pour transporter la chaleur, les nouvelles méthodes de refroidissement utilisant des solutions ou des fluides frigorigènes à base d’eau permettent une densité de puissance bien supérieure aux méthodes de refroidissement par air traditionnelles. Le déploiement du refroidissement liquide dans les datacentres sera un élément essentiel pour prendre en charge les charges de travail des processeurs graphiques de pointe et permettre le développement d’applications émergentes exploitant l’IA.

Cependant, le refroidissement liquide n’est pas une solution miracle aux problèmes de densité auxquels sont confrontées les entreprises, et il ne remplacera pas complètement le refroidissement par air. Aujourd’hui, même les racks très denses comprennent encore un composant refroidi par air. En effet, les entreprises doivent prendre en charge différents composants au sein de leur pile d’IA, et chacun de ces composants aura des exigences de refroidissement différentes.

Par exemple, les racks de processeurs graphiques actuels sont majoritairement refroidis par liquide, mais utilisent encore un faible pourcentage de refroidissement par air. Les systèmes de 100 kW/rack mentionnés précédemment peuvent présenter une répartition 80/20 entre le refroidissement liquide et le refroidissement par air. Dans ce cas, le composant refroidi par air consommerait à lui seul 20 kW de puissance, soit plusieurs fois plus que l’ensemble du rack il y a quelques années seulement. En revanche, les racks de stockage et de réseau qui complètent les charges de travail de calcul des processeurs graphiques sont toujours (pour le moment) refroidis à 100 % par air. Les organisations doivent réfléchir à la manière d’intégrer le refroidissement liquide tout en continuant à prendre en compte les charges à refroidissement par air haute densité.

En tant que fournisseur mondial de colocation, Equinix connaît les besoins croissants de refroidissement liquide et conçoit ses datacentres haute performance en tenant compte spécifiquement de l’infrastructure de refroidissement liquide. Cela permet à nos clients de déployer facilement du matériel d’IA, chose qui aurait traditionnellement été assez difficile à réaliser au sein de leurs propres datacentres sur site.

Énergie et développement durable

Face aux besoins croissants en énergie et en refroidissement de l’IA, de nombreux dirigeants d’entreprise doivent réfléchir à la manière dont ils peuvent gérer ces charges de travail énergivores sans anéantir les progrès accomplis vers leurs objectifs de développement durable.

La première étape consiste à s’assurer que l’alimentation électrique des installations est assurée par des sources d’énergie renouvelables chaque fois que cela est possible. En fait, cela a été une priorité absolue pour Equinix, car nous nous efforçons de prendre en charge les charges de travail haute densité de nos clients. En 2024, nous avons atteint une couverture de 96 % en énergies renouvelables pour l’ensemble de notre portefeuille de datacentres dans le monde. Nous poursuivons nos efforts pour atteindre notre objectif de couverture à 100 % d’ici 2030. Pour y parvenir, nous utilisons une stratégie à multiples facettes en matière d’énergies renouvelables, qui comprend la signature de contrats d’achat d’électricité pour accompagner de nouveaux projets éoliens et solaires.

Nous nous sommes également fixés pour objectif de réduire de 90 % nos émissions de gaz à effet de serre de scope 1, 2 et 3 d’ici à 2040, et nous avons fait valider nos objectifs par l’initiative Science Based Targets (SBTi). Cette initiative permet aux clients qui exploitent l’écosystème et l’infrastructure d’Equinix d’avoir l’assurance que leurs charges de travail liées à l’IA correspondent à leurs initiatives de développement durable, plutôt que de les entraver.

Mais l’accent mis sur les pratiques durables ne s’arrête pas là. Les datacentres compatibles avec l’IA doivent également privilégier l’amélioration de leur efficacité opérationnelle, ce qui peut avoir des implications à long terme en matière de développement durable. Chez Equinix, nous poursuivons cet objectif en intégrant progressivement les normes ASHRAE A1 Allowable dans l’ensemble de notre portefeuille de datacentres. Cette pratique nous permet de continuer à exploiter nos installations dans la plage recommandée A1, mais à une température de fonctionnement légèrement supérieure à la norme. Cela pourrait nous permettre de réaliser d’importantes économies d’énergie opérationnelle sur l’ensemble de notre réseau mondial à long terme.

De plus, les charges de travail de processeurs graphiques peuvent même accélérer ces projets d’efficacité en tirant parti des avantages inhérents au refroidissement liquide. Grâce à ses capacités de conductivité thermique améliorées, le refroidissement liquide peut fonctionner à des températures plus élevées pour refroidir les charges de travail à forte densité de puissance que les systèmes refroidis par air. Les installations voient augmenter le pourcentage global des charges de travail refroidies par liquide, ce qui pourrait leur permettre de fonctionner plus efficacement. Tant que les normes de température des puces resteront élevées, la technologie de l’IA pourrait permettre de généraliser des pratiques opérationnelles plus efficaces, notamment en ce qui concerne l’évacuation de la chaleur de l’installation.

Eau

L’impact de l’adoption de l’IA sur la consommation d’eau est un autre aspect important du développement durable des datacentres. Bien que les charges de travail d’IA utilisent le refroidissement « liquide » pour refroidir les serveurs, cette technologie n’entraîne pas d’augmentation significative de la consommation d’eau. En effet, ils utilisent un circuit fermé relié à un échangeur thermique ou à une unité de distribution de liquide de refroidissement.

Cependant, la chaleur doit bien aller quelque part. Après son passage dans l’unité de traitement des eaux usées, la chaleur est transférée à un système de refroidissement du bâtiment, qui l’évacue ensuite totalement de l’installation. Au niveau du bâtiment, les opérateurs de datacentres ont le choix entre deux solutions de refroidissement :

• Le refroidissement par évaporation libère la chaleur du datacentre sous forme de vapeur d’eau.
• Le refroidissement par air, également appelé refroidissement à sec, évacue l’air chaud du datacentre.

Illustration 1 : Système de refroidissement au niveau du bâtiment

Le refroidissement par évaporation entraîne une consommation d’eau plus élevée que le refroidissement par air, mais il consomme également beaucoup moins d’énergie. Un opérateur mondial de datacentres comme Equinix doit évaluer les compromis liés à la consommation d’énergie et d’eau au cas par cas. Par exemple, nous évitons d’utiliser le refroidissement par évaporation dans les zones souffrant de stress hydrique, afin de garantir que davantage d’eau reste disponible pour la communauté.

Comme mentionné précédemment, le refroidissement liquide au niveau du serveur étant plus efficace, l’adoption accrue des charges de travail d’IA pourrait nous permettre de fonctionner à des températures plus élevées. Cela pourrait réduire la consommation d’eau dans les systèmes de refroidissement par évaporation et ouvrir la voie à l’utilisation du refroidissement sec sur davantage de marchés. De plus, cela pourrait nous offrir davantage d’opportunités de participer à des projets d’exportation de chaleur des datacentres, où nous captons la chaleur résiduelle de nos installations et la mettons à disposition pour chauffer les habitations et les entreprises des communautés locales dans lesquelles nous opérons.

Les datacentres compatibles avec l’IA sont des datacentres interconnectés.

Les dirigeants d’entreprise sont de plus en plus conscients que l’IA ne se résume pas à de grands datacentres dotés d’une capacité de processeurs graphiques élevée. Il existe différents types de datacentres compatibles avec l’IA, utilisés à des fins diverses. L’IA distribuée est devenue la norme, et les entreprises doivent collecter des données provenant de nombreuses sources différentes et prendre en charge l’inférence à proximité des utilisateurs en périphérie du réseau. Elles doivent également se connecter à un écosystème de partenaires pour obtenir les données, les modèles et l’infrastructure nécessaires à la réussite de l’IA.

Pour toutes ces raisons, la connectivité est un élément essentiel qui rend les datacentres compatibles avec l’IA. Les datacentres haute performance sont stratégiquement situés à proximité des centres urbains où se trouvent généralement les utilisateurs finaux et les sources de données, permettant ainsi la connectivité à faible latence dont les charges de travail d’inférence ont besoin. De plus, ces datacentres sont devenus des plateformes numériques sur lesquelles les partenaires de l’écosystème se réunissent et interagissent entre eux. Ainsi, les entreprises n’ont plus à choisir entre disposer de datacentres situés aux bons endroits pour prendre en charge leurs différentes charges de travail d’IA et avoir un accès facile à leurs partenaires de l’écosystème d’IA. Un fournisseur de colocation adapté peut les aider à répondre à ces deux besoins.

Enfin, un datacentre compatible avec l’IA doit fournir des capacités de réseau avancées pour permettre au matériel d’IA de fonctionner à son plein potentiel. Par exemple, les processeurs graphiques sont très sensibles à la latence et sont donc conçus pour être connectés point à point. La quantité de bande passante d’interconnexion physique nécessaire pour y parvenir est astronomique. Seules les installations conçues avec un espace dédié en hauteur ou en sous-sol pourront supporter le volume considérable de fibres optiques requis par les clusters d’IA.

Les datacentres de colocation Equinix IBX® sont présents sur 76 marchés à travers le monde, vous permettant ainsi de déployer votre infrastructure d’IA où que vous soyez. Equinix compte également plus de 10 000 clients, allant des fournisseurs de cloud établis aux spécialistes émergents de l’IA. En partageant des locaux avec de nombreux fournisseurs de services différents, il est facile de trouver les partenaires adaptés à votre stratégie d’IA et de vous interconnecter avec eux pour échanger des données rapidement et en toute sécurité.

Chez Equinix, nous pensons que les processeurs graphiques et autres matériels de pointe sont les moteurs qui font progresser l’IA. Les datacentres haute performance sont les salles des machines où le matériel peut fonctionner à son plein potentiel. Sans le matériel adéquat et les datacentres appropriés pour le prendre en charge, l’IA reste au point mort.

Découvrez comment les datacentres haute performance font progresser l’IA : lisez le livre blanc« Le moteur de l’IA au service de l’innovation à grande échelle ».