Comment les réseaux des centres de données résisteront-ils à une avalanche de charges de travail d’IA ?

Ce point de vue de l’industrie a été rédigé par Aniket Khosla, vice-présidente de la gestion des produits filaires chez Spirent.

Pour une technologie limitée aux films de science-fiction il y a seulement quelques années, l’intelligence artificielle (IA) est soudainement omniprésente. Dans une enquête McKinsey menée en avril 2024, moins d’un an après le lancement de ChatGPT et d’autres outils de première génération, 55 % des personnes interrogées ont déclaré qu’elles utilisaient déjà l’IA. Plus des deux tiers ont déclaré qu’ils envisageaient d’augmenter leurs investissements dans l’IA.

Prête ou pas, l’IA est sur le point d’apporter de grands changements dans tous les secteurs. Et nulle part ailleurs ces changements ne se feront sentir plus rapidement ou directement que dans les centres de données chargés de traiter les charges de travail d’IA.

Les opérateurs hyperscale investissent déjà dans un grand nombre d’unités centrales de traitement (CPU), d’unités de traitement graphique (GPU), de réseaux de portes programmables sur site (FPGA) et d’autres accélérateurs « xPU » spécialisés pour créer des clusters d’IA. Ils doivent désormais connecter ces clusters à des vitesses et à des échelles qui dépassent de loin ce qu’ils peuvent réaliser avec des infrastructures conventionnelles. La manière dont ils y parviendront reste une question ouverte, même si les fournisseurs de réseaux s’efforcent de répondre avec acharnement.

Qu’y a-t-il de si différent dans les charges de travail d’IA qui poussent les réseaux de centres de données traditionnels jusqu’au point de rupture ? Et comment les hyperscalers et les fournisseurs réagissent-ils ? Regardons de plus près.

Nouvelles applications, nouvelles demandes de réseau

On pourrait penser que personne ne serait mieux préparé à répondre aux demandes des applications émergentes d’IA que les entreprises qui exploitent les plus grands centres de données au monde. Pourtant, ce sont les hyperscalers qui tirent la sonnette d’alarme sur les limites des infrastructures actuelles et exhortent les fournisseurs à accélérer les délais de mise en place de nouvelles solutions. Pour comprendre pourquoi, examinons ce qui se passe au sein d’un cluster d’IA typique.

Le traitement de la charge de travail de l’IA englobe deux types de travail distincts :

  • Formation modèle : Au cours de cette phase, les clusters d’IA ingèrent d’énormes ensembles de données sur lesquels les modèles d’IA peuvent s’entraîner. Le modèle analyse les relations entre les entrées et les sorties dans les données d’entraînement et, au fil du temps, apprend à classer les données et à faire des prédictions avec toujours plus de précision.
  • Inférence : Dans cette phase, les modèles d’IA appliquent leur formation à de nouvelles données. Cela peut englober une variété de scénarios en temps réel, tels que des chatbots IA répondant aux requêtes du service client, des modèles de langage étendus (LLM) générant des images à partir d’invites textuelles ou des applications de vision IA surveillant la vidéo en direct dans les usines de fabrication pour identifier les défauts de production.

La formation et l’inférence peuvent impliquer des charges de travail extrêmement gourmandes en calcul et en données, exigeant des milliers de processeurs spécialisés et la capacité de prendre en charge des milliers de tâches synchronisées en parallèle. Cependant, c’est dans la phase d’inférence que le besoin de vitesses et de débits extrêmes est le plus urgent et que les approches réseau conventionnelles échouent.

Par rapport à la formation, l’inférence génère cinq fois plus de trafic par xPU et nécessite des réseaux avec cinq fois plus de bande passante. Compte tenu de la nature en temps réel de nombreux scénarios d’inférence d’IA, les charges de travail doivent également progresser à travers de nombreux nœuds le plus rapidement possible, exigeant une latence extrêmement faible à grande échelle. Après tout, selon l’application, tout retard dans la réponse d’un cluster d’IA peut entraîner des délais d’attente, une mauvaise expérience client, des erreurs coûteuses ou pire encore.

Ce ne sont pas des préoccupations hypothétiques. Selon Meta, 33 % du temps de traitement actuel de la charge de travail de l’IA est consacré à l’attente du réseau. Et cela vaut pour les modèles d’IA actuels, qui en sont encore à leurs balbutiements et qui deviennent 1 000 fois plus complexes tous les trois ans.

Faire évoluer les réseaux de centres de données

Les opérateurs de centres de données ne peuvent pas répondre aux exigences croissantes des applications d’IA en ajoutant simplement davantage de serveurs et de réseaux de fibre optique, comme ils l’ont fait par le passé. Ils ont besoin de nouvelles approches architecturales, en particulier pour déduire des charges de travail qui peuvent nécessiter des dizaines de milliers de xPU traitant des milliards, voire des milliards, de paramètres denses. Ici, les opérateurs déploient des infrastructures back-end dédiées et adoptent les technologies réseau les plus récentes et les plus rapides aussi rapidement que les fournisseurs peuvent les fournir.

En effet, la demande des clients en matière d’IA est si grande que les hyperscalers n’ont d’autre choix que de commencer à mettre à niveau leurs infrastructures dès maintenant, même si cela implique la mise en œuvre d’un nouveau silicium pour réseaux à haut débit bien avant que les normes ne soient finalisées. Dans le même temps, il n’existe toujours pas de consensus sur la conception optimale du cluster back-end ou sur les technologies réseau à adopter. Google, Microsoft et Amazon, par exemple, poursuivent actuellement des stratégies différentes.

Heureusement, nous commençons à avoir des indices sur la manière dont le marché des technologies de réseautage par l’IA va finalement s’effondrer. Dans les réseaux back-end où les opérateurs sont confrontés aux besoins les plus urgents, la transition vers les interfaces de nouvelle génération est déjà bien avancée et, selon le groupe Dell’Oro, presque tous les ports seront de 800G d’ici 2027. Pour la connectivité frontale à l’IA clusters (qui seront initialement motivés par la nécessité d’une ingestion de données à haut débit), les mises à niveau progresseront plus lentement. Dell’Oro s’attend à ce qu’un tiers de tous les ports Ethernet soient de 800G ou plus dans le même laps de temps.

La technologie d’interface que les hyperscalers préféreront pour les réseaux front-end et back-end reste également une question ouverte, à laquelle il n’y aura probablement pas de réponse claire de sitôt. Ici, les opérateurs peuvent choisir l’Ethernet haut débit, largement accepté par l’industrie et les avantages économiques liés à la normalisation, ou des technologies propriétaires comme InfiniBand qui offrent des performances sans perte. Dell’Oro s’attend à ce qu’Ethernet domine la connectivité frontale, tandis que les réseaux back-end incluront à la fois Ethernet et InfiniBand dans un avenir prévisible.

Regarder vers l’avant

Quelles technologies et approches architecturales l’industrie adoptera-t-elle en fin de compte pour répondre aux exigences changeantes de l’IA ? Pour l’instant, personne ne peut le dire avec certitude, pour deux grandes raisons.

Premièrement, ces questions n’ont pas de réponse unique. Le choix d’un opérateur d’Ethernet, d’InfiniBand ou des deux dépendra de plusieurs facteurs, notamment la taille et le nombre de clusters, la combinaison d’applications d’IA, la préférence pour les technologies standardisées ou propriétaires, l’aisance avec la feuille de route d’une technologie donnée et d’autres considérations. De plus, l’IA évolue si rapidement que nous ne savons tout simplement pas exactement ce que l’avenir nous réserve. Cette incertitude pose des défis importants aux opérateurs, qui risquent de faire de mauvais choix et de découvrir leur infrastructure obsolète d’ici quelques années seulement.

Comme toujours, le meilleur moyen d’atténuer ce risque, en particulier lors de la mise en œuvre de normes encore en cours de définition, consiste à effectuer des tests rigoureux. À mesure que les hyperscalers et les fournisseurs accélèrent le développement des solutions de nouvelle génération, ils auront besoin d’outils de nouvelle génération pour les tester et les valider. Pour les fournisseurs, la capacité d’émuler des infrastructures d’IA hyperscale (au lieu de tenter de les reconstruire en laboratoire) sera également essentielle. Heureusement, les fournisseurs de tests et d’émulation innovent aux côtés des fournisseurs et sont prêts à répondre à ces besoins.

Bien que de nombreuses questions demeurent, il y en a une à laquelle nous pouvons répondre définitivement : quelle que soit la rapidité avec laquelle les fournisseurs et les hyperscalers pourront mettre en œuvre de nouvelles infrastructures optimisées pour l’IA, les clients seront prêts à les utiliser.

Si ce n’est pas déjà fait, répondez à notre sondage auprès des lecteurs ! Juste 3 questions pour nous aider à mieux comprendre qui lit (info originelle thème de film d’entreprise) afin que nous puissions mieux vous servir !

Catégories : Datacenter · Point de vue de l’industrie · Logiciels · Équipements télécoms

Construire un spot vidéo réclame une grande exactitude dès l’amorce du projet d’un film d’entreprise.

Notre cabinet devra travailler au moyen d’une implication parfaite dès l’origine de votre chantier de film dans l’objectif de réduire l’importance des transformations pouvant intervenir par la suite lors de la construction de la vidéo institutionnelle. Informations complètes au sujet de films d’entrepriseen retrouvant les informations page « une ». Il faut construire en respect des process et professionnalisme. Cette situation est analogue pour une opération en B2B / C et doit permettre de placer intégralement la développement que la vidéo corporate va donner.

Ce propos apporte des réponses à vos investigations vous adorerez également ces ouvrages:

{{Adobe After Effects CC.,Le livre .}
|{After effects CC 2019).,Clicker Ici .}
|{Agrégation anglais 2021. La BBC et le service public de l’audiovisuel, 1922-1995.,A voir et à lire. .}
|{Alain Le Diberder.,Ouvrage .}
|{Almodovar les femmes et les chansons.,Le livre .}
|{Bases et concepts des techniques du son.,(la couverture) .}
|{Câblage et connectique pour l’audiovisuel – Guide pratique.,Le livre .}
|{Cahier Louis Lumière, territoires audiovisuels.,Clicker Ici .}
|{Camtasia 2020. Réalisez vos tutoriels et vidéos d’entreprise.,A voir et à lire. .}
|{Camtasia 2020. Réalisez vos tutoriels et vidéos d’entreprise.,Ouvrage . A emprunter en bibliothèque.}
|{Cécile Raynal.,Le livre .}
|{Chantal Meyer-Plantureux.,(la couverture) .}
|{CHAUSSEGROS B.,(Disponible) .}
|{Cinéma, audiovisuel, nouveaux médias.,Le livre .}
|{Commerces et services de l’audiovisuel, de l’électronique et de l’équipement.,livre de référence . Disponible à la FNAC.}
|{Comprendre les futurs systèmes d’informations.,(la couverture) . Disponible Sur AMAZON.}
|{Conception paramétrique avec Rhino et Grasshopper.,(Disponible) . Disponible chez votre libraire.}
|{Construire ses enceintes acoustiques – 3e éd..,Le livre .}
|{Contrats de l’audiovisuel.,A voir et à lire. . Disponible sur internet.}
|{Cours de vidéo.,Ouvrage .}
|{Design sonore – Applications, méthodologie et études de cas.,Le livre .}
|{Dessin et peinture numérique avec Krita.,Clicker Ici . Disponible dans toutes les bonnes bibliothèques de votre département.}
|{Esthétiques de l’audiovisuel.,A voir et à lire. . Disponible sur internet.}
|{Fabien Lebrun.,Ouvrage .}
|{Faire d’un bon scénario, un scénario formidable.,Le livre .}
|{Gestion du niveau de service dans les environnements émergents.,(la couverture) . Disponible à l’achat sur les plateformes Amazon, Fnac, Cultura ….}
|{Glpi – coffrets de 2 livres : gerez votre parc informatique et vos incidents.,Le livre .}
|{Guide de la prise de son pour l’image.,Clicker Ici .}
|{Guide pratique de Home-Studio et MAO.,A voir et à lire. .}
|{Guide pratique de l’éclairage.,Ouvrage . A emprunter en bibliothèque.}
|{Guide pratique du sampling.,Le livre .}
|{Guide social cinéma et audiovisuel.,(la couverture) . Disponible à l’achat sur les plateformes Amazon, Fnac, Cultura ….}
|{Installation et configuration d’un serveur web – (Apache, Nginx, Postfix…).,(Disponible) .}
|{Introduction à l’étude des cultures numériques.,Le livre .}
|{Isabelle Maradan.,livre de référence . Disponible à la FNAC.}
|{Jean-Christophe Lardinois.,(la couverture) .}
|{Jean-Pierre Fougea.,(Disponible) .}
|{Julien Monestiez.,Le livre . Disponible dans toutes les bonnes librairies.}
|{Julien Monestiez.,A voir et à lire. .}
|{Kit audiovisuel PetraLingua dvd-cd-livres français pour enfants et cours en ligne .,Ouvrage .}
|{LA DIRECTION DE JOUR.,Le livre . Disponible dans toutes les bonnes librairies.}
|{La haute et la basse définition des images.,Clicker Ici .}
|{La musique à l’image.,A voir et à lire. .}
|{La musique au cinéma et dans l’audiovisuel.,Ouvrage .}
|{La nouvelle économie de l’audiovisuel.,Le livre .}
|{La Nouvelle vague.,(la couverture) . Disponible à l’achat sur les plateformes Amazon, Fnac, Cultura ….}
|{La qualité de service au niveau IaaS.,Le livre .}
|{L’audiovisuel de A à Z découvrir les métiers de l’image.,Clicker Ici .}
|{Le business guide de l’audiovisuel, du web et de l’entertainement.,A voir et à lire. . Disponible sur internet.}
|{Le Business Guide Mass Media 2010-2011 – Audiovisuel – Web – Entertainment Patrick Casasnovas .,Ouvrage .}
|{Le Film français (1945-1958).,Le livre .}
|{Le hors-champ est dedans !.,(la couverture) .}
|{Le journalisme audiovisuel.,(Disponible) .}
|{Le Journalisme Audiovisuel.,Le livre . Disponible à CULTURA.}
|{Le livre des techniques du son.,livre de référence .}
|{Le livre des techniques du son – 5e éd. T2.,(la couverture) . Disponible Sur AMAZON.}
|{Le livre des techniques du son – Tome 3.,(Disponible) .}
|{Le manuel de la production – Cinéma et audiovisuel.,Le livre . Disponible dans toutes les bonnes librairies.}
|{Le manuel de la production – Cinéma et audiovisuel.,A voir et à lire. .}
|{Le nouveau paysage audiovisuel français.,Ouvrage .}
|{Le son au cinema et dans l’audiovisuel.,Le livre . Disponible dans toutes les bonnes librairies.}
|{L’épreuve – Domaine littéraire et artistique au BTS audiovisuel.,Clicker Ici .}
|{Les contrats commentés de l’industrie audiovisuelle.,A voir et à lire. .}
|{Les métiers de l’audiovisuel.,Ouvrage .}
|{Les métiers de l’audiovisuel.,Le livre .}
|{Les métiers de l’audiovisuel.,(la couverture) . Disponible à l’achat sur les plateformes Amazon, Fnac, Cultura ….}
|{Les réseaux avec Cisco – Connaissances approfondies sur les réseaux (4e édition).,Le livre .}
|{Les réseaux informatiques par la pratique.,Clicker Ici . Disponible dans toutes les bonnes bibliothèques de votre département.}
|{Les secrets de l’image vidéo.,A voir et à lire. .}
|{Les sons en 150 questions.,Ouvrage .}
|{L’image – 4e éd..,Le livre .}
|{L’image numérique.,(la couverture) .}
|{Linda Seger.,(Disponible) .}
|{Lire la suite.,Le livre .}
|{Manuel de compression d’image diffusée par erreur.,livre de référence .}
|{Matthieu Chabaud.,(la couverture) . Disponible Sur AMAZON.}
|{Mémento comptable et fiscal de l’audiovisuel.,(Disponible) .}
|{Méthodes d’organisation des flux dans les réseaux informatiques.,Le livre . Disponible dans toutes les bonnes librairies.}
|{Monter ses vidéos avec Première Pro.,A voir et à lire. .}
|{Nginx en action.,Ouvrage .}
|{Optimisation multicouche de l’ingénierie du trafic pour le réseau maillé sans fil.,Le livre .}
|{Oracle 19c – Administration.,Clicker Ici . Disponible dans toutes les bonnes bibliothèques de votre département.}
|{Photo.de theatre ou la memoire de l’ephemere.,A voir et à lire. .}
|{Photos et films d’entreprise. Le guide de survie du photographe/vidéaste corporate.,Ouvrage .}
|{Photoshop Elements 2021 pour les Nuls.,Le livre .}
|{Physique pour l’audiovisuel.,(la couverture) .}
|{Physique pour l’audiovisuel.,Le livre .}
|{Physique pour l’audiovisuel. Traitement du signal analogique. Acoustique.,Clicker Ici .}
|{Pierre Kuperberg.,A voir et à lire. .}
|{Pierre Sorlin.,Ouvrage .}
|{Pierre-Jean Benghozi.,Le livre .}
|{Production audiovisuelle – Les outils.,(la couverture) .}
|{Réseaux et transmissions – 7e éd. – Protocoles, infrastructures et services.,(Disponible) .}
|{Réseaux informatiques.,Le livre .}
|{Réseaux informatiques – Notions fondamentales (8e édition) – (Protocoles, Architectures, Réseaux sans fil, Virtualisation, Sécurité, IPv6…).,livre de référence .}
|{Sécurité informatique.,(la couverture) . Disponible Sur AMAZON.}
|{Sécurité réseaux informatique : Applications aux VPN.,(Disponible) .}
|{Techniques de prise de son.,Le livre .}
|{Technologies pour l’audiovisuel.,A voir et à lire. .}
|{Technologies pour l’audiovisuel.,Ouvrage . A emprunter en bibliothèque.}
|{Technologies pour l’audiovisuel.,Le livre .}
|{Technologies pour l’audiovisuel.,Clicker Ici . Disponible dans toutes les bonnes bibliothèques de votre département.}
|{Thierry Lefebvre.,A voir et à lire. .}
|{Tout sur la blockchain et ses applications.,Ouvrage . A emprunter en bibliothèque.}
|{Traitement d’images et de vidéos avec OpenCV4.,Le livre .}
|{Traitement du signal analogique acoustique.,(la couverture) .}
|{Traitement du signal numérique optique colorimétrie photométrie.,Le livre .}
|{Un studio de télévision à l’école.,Clicker Ici .}
|{Vidéos et films d’entreprise.,A voir et à lire. .}
|{VMware vSphere 6.,Ouvrage .}
|{Windows Server 2019.,Le livre .}
|{Windows Server 2019 – Infrastructure réseau.,(la couverture) .}}

Ce papier est rendu de la manière la plus fidèle que possible. Si tant est que vous décidez de donner des informations complémentaires à cet article sur le sujet « Production audiovisuelle » vous avez la possibilité d’écrire aux contacts indiqués sur ce site. La fonction journalistique de audiovisuelzoom.com est de débattre de Production audiovisuelle dans la transparence la plus entière en vous offrant la visibilité de tout ce qui est en lien avec ce thème sur internet Ce dossier concernant le thème « Production audiovisuelle » a été pris sur internet par les rédacteurs de audiovisuelzoom.com D’ici quelques heures, nous lancerons d’autres infos sur le sujet « Production audiovisuelle ». Par conséquent, consultez de façon régulière notre blog.

Author: Marine CARRERE