Comment les responsables des infrastructures des entreprises du Fortune 500 abordent la préparation à l’IA

La semaine dernière, nous avons participé à une table ronde lors de Cisco Live, aux côtés de responsables réseau de Home Depot et de Disney. Cette session a permis aux responsables réseau et infrastructure de dépasser les discours de façade et d’exprimer franchement ce qu’ils pensent réellement de l’IA comme outil de gestion des infrastructures réseau.

Dans nos échanges avec les décideurs réseau et infrastructure, certains constats reviennent régulièrement. Ils sont enthousiastes face aux opportunités offertes par l’IA, mais aussi submergés. Beaucoup craignent déjà de passer à côté des dernières innovations en matière d’IA appliquée aux réseaux. Et surtout, ils ne savent pas vraiment quelle stratégie adopter pour y faire face.

Malgré cette incertitude, une chose est sûre : l’IA a profondément transformé les réseaux d’entreprise, notamment en redéfinissant l’emplacement des données. Les architectures traditionnelles en étoile étaient pertinentes lorsque les données résidaient principalement dans un hub. Aujourd’hui, les données sont partout. Les entreprises ont désormais besoin d’infrastructures distribuées pour accéder aux données, où qu’elles se trouvent, et les acheminer là où elles sont nécessaires.

Examinons de plus près comment les responsables des infrastructures des entreprises du Fortune 500 s’adaptent à ce nouvel environnement dominé par l’IA. Découvrez quatre scénarios représentatifs de nos échanges avec des dirigeants d’entreprise, et ce qu’ils impliquent pour votre propre préparation à l’IA.

Scénario 1 : Optimiser la flexibilité

Ce que nous entendons :

Nous faisons constamment en sorte que les utilisateurs aient accès aux modèles d’IA les plus récents et les plus performants, pour constater rapidement que la « tendance du moment » a encore changé. Nous peinons à suivre ce rythme. Nous ne savons jamais si notre environnement est prêt à prendre en charge de nouveaux modèles issus de différents fournisseurs, avec les garde-fous appropriés.

Ce que cela signifie :

Lorsque l’on ignore de quoi seront faits ses besoins en IA demain, la meilleure approche consiste à concevoir une infrastructure flexible, capable de s’adapter à l’imprévu. C’est pourquoi les entreprises devraient s’appuyer à la fois sur des modèles privés et publics, hébergés dans des environnements cloud publics et privés. Cette approche est essentielle pour éviter toute dépendance à un modèle ou à un fournisseur unique.

En adoptant une infrastructure hybride combinant environnements publics et privés, il devient plus simple de trouver le bon équilibre entre performance, flexibilité et sécurité. En construisant cette infrastructure IA hybride sur une base que vous maîtrisez, vous pouvez déployer des solutions de connectivité indépendantes des fournisseurs, et ainsi reconfigurer ou ajuster vos connexions cloud à la demande.

Scénario 2 : Aller à la racine du problème

Ce que nous entendons :

Lorsque notre infrastructure IA ne fonctionne pas correctement, il est difficile de savoir précisément comment réagir. Le problème s’avère souvent totalement différent de ce que nous avions initialement imaginé. Lorsque nous utilisons des outils d’IA pour diagnostiquer notre infrastructure, ils ne sont pas toujours aussi utiles que nous l’espérions.

Ce que cela signifie :

Les responsables d’infrastructure sont confrontés à ce type d’incertitude au quotidien. À bien des égards, l’IA a même multiplié la complexité du problème. L’IA peut aider à diagnostiquer les infrastructures d’entreprise, mais les décideurs doivent faire preuve de discernement dans la manière dont ils interprètent et exploitent ses analyses. L’expertise humaine reste essentielle pour donner du sens aux résultats produits par l’IA.

Le défi, c’est que les modèles d’IA générative cherchent avant tout à fournir des réponses convaincantes. Lorsque vous tentez de résoudre un problème d’infrastructure, le modèle proposera toujours une solution qui semble plausible. Il ne faut pas prendre ces réponses pour acquises, même lorsqu’elles confirment vos intuitions.

C’est à vous de déterminer si la solution est réellement pertinente, en fonction de votre connaissance de votre infrastructure. Il est également crucial de formuler des prompts précis et complets, afin de donner aux modèles tout le contexte nécessaire pour comprendre les problèmes que vous cherchez à résoudre.

Scénario 3 : Lutter contre la shadow AI

Ce que nous entendons :

Pendant des années, nous avons abordé l’IA comme un véritable « Far West ». Même si une équipe de gouvernance définit des politiques d’IA, leur application est presque impossible à garantir. Chacun peut faire ce qu’il veut, et c’est ce qui nous inquiète le plus.

Ce que cela signifie :

Les utilisateurs ont pris l’habitude d’expérimenter différents modèles d’IA dans leur vie personnelle. Il n’est donc pas surprenant que ce comportement se retrouve dans leur environnement professionnel. Ils utilisent les modèles de leur choix, quand ils le souhaitent et où ils le souhaitent, sans demander d’autorisation ni attendre de directives. Cette « shadow AI » peut entraîner une hausse des coûts, poser des problèmes de confidentialité des données et nuire à la cohérence des résultats.

Quel que soit le responsable de la politique IA au sein de l’organisation, une chose est claire : le réseau constitue la base qui permet d’innover avec l’IA tout en maîtrisant les risques. Parce qu’ils ont une visibilité sur l’emplacement d’exécution des charges de travail d’IA et sur la circulation des données, les responsables réseau doivent être pleinement associés à la définition d’une stratégie d’infrastructure IA de bout en bout.

L’organisation doit également définir des règles claires sur l’utilisation responsable de l’IA par les ingénieurs réseau, et leur fournir des outils conformes à ces exigences.

Par ailleurs, si les ingénieurs réseau utilisent l’IA pour générer du code, cela doit s’inscrire dans un pipeline de développement collaboratif, plutôt que de laisser ce code sur leurs postes locaux. Cela permet aux développeurs de passer en revue le code, de donner leur avis et de corriger d’éventuels problèmes.

Scénario 4 : Connexion rapide aux écosystèmes IA

Ce que nous entendons :

Récemment, nos dirigeants ont décidé que nous devions acquérir des GPU auprès d’un fournisseur spécifique fournisseur neocloud. Nous n’avons jamais été connectés à ce néocloud auparavant, et nous ne savons donc pas vraiment comment procéder. En réalité, nous travaillons principalement avec un hyperscaler cloud depuis des années, ce qui rend toute connexion en dehors de son écosystème à la fois nouvelle et déroutante. Comment établir les bonnes connexions, rapidement et en toute sécurité ?

Ce que cela signifie :

L’accès aux bons partenaires d’écosystème est un élément clé de la flexibilité des infrastructures. Comme évoqué précédemment, des solutions de connectivité neutres sont idéales pour l’IA, car elles permettent de se connecter rapidement à de nouveaux partenaires dès que le besoin se présente, sans être freiné par des situations de dépendance vis-à-vis d’un fournisseur.

Même avec la meilleure connectivité possible, la proximité physique reste un facteur déterminant. La distance entraîne inévitablement de la latence. C’est pourquoi le choix des partenaires d’écosystème ne représente que la moitié du défi. Il est tout aussi important de savoir où ces partenaires d’écosystème se trouvent, afin de positionner vos charges de travail d’IA au plus près.

Le déploiement d’une infrastructure IA privée chez un hébergeur mondial d’infrastructures peut apporter une réponse efficace. Vous bénéficiez alors d’un accès direct à des milliers de partenaires potentiels de l’écosystème IA déjà présents chez ce même fournisseur. Par exemple, l’écosystème Equinix regroupe des néoclouds tels que CoreWeave, Crusoe, Denvr Dataworks, GroqCloud, Lambda Labs ou Nebius, ainsi que l’ensemble des grands hyperscalers du cloud.

Passez dès aujourd’hui à une infrastructure IA distribuée

L’IA n’est pas une solution miracle à tous les défis d’infrastructure auxquels sont confrontées les équipes informatiques en entreprise. En réalité, elle tend souvent à les amplifier. Cependant, les organisations qui s’attachent dès aujourd’hui à optimiser la flexibilité de leur infrastructure seront mieux armées pour relever les défis de l’IA, tout en tirant parti des nouvelles opportunités qu’elle crée.

Chez Equinix, nous sommes convaincus que le réseau joue un rôle central dans la mise en place d’infrastructures prêtes pour l’IA. Tout commence par le déploiement de hubs d’interconnexion aux emplacements stratégiques, et pas seulement dans quelques sites clés comme dans un WAN traditionnel. Grâce à une infrastructure distribuée en périphérie, les entreprises peuvent se rapprocher des différents lieux où elles :

• Collectent des données issues de multiples sources
• Exécutent des inférences IA quasiment en temps réel
• Se connectent à leurs utilisateurs finaux et à leurs partenaires

Découvrez pourquoi les hubs d’interconnexion distribués sont devenus essentiels pour les entreprises qui souhaitent accélérer leur préparation à l’IA. Consultez le document de cas d’usage, « Optimisez votre réseau mondial pour l’IA ».