800G DCI pour l’interconnexion des centres de données IA : bande passante, latence et déploiement

Chaque composant du réseau est amélioré par l’intelligence artificielle. Les tâches massives d’entraînement des grands modèles de langage, l’exécution de moteurs d’inférence distribués et la synchronisation de volumes considérables de données entre des grappes d’ordinateurs exercent une pression sans précédent sur les interconnexions reliant les centres de données. Le débit de 100G ne suffit plus pour les charges de travail IA, et celui de 400G devient rapidement la nouvelle norme, plutôt qu’un objectif à atteindre. Place au 800G DCI — la nouvelle référence pour l’interconnexion des centres de données IA.

La demande croissante de DCI 800G

La course vers les 800G DCI est motivée par une conjonction de facteurs. Premièrement, la taille des modèles d’intelligence artificielle a considérablement augmenté : le nombre de paramètres est passé de millions à des milliards, puis à des trillions. Répartir ces modèles sur de nombreux modules distincts, situés dans différents centres de données, exige une bande passante considérable entre ces centres. Deuxièmement, l’entraînement distribué place désormais les modules des centres de données sur toute une zone métropolitaine au sein d’un même cluster informatique, plutôt que dans un seul bâtiment. Troisièmement, les applications en temps réel, telles que la détection de fraude et les systèmes autonomes, requièrent à la fois un débit très élevé et une faible latence constante et déterministe. Enfin, avec la tendance croissante vers des infrastructures privées d’IA, la charge cumulative sur les liens d’interconnexion ne cesse de s’accroître. Les technologies traditionnelles de DCI 100G et 200G, bien qu’adaptées aux charges de travail classiques, deviennent des goulots d’étranglement pour les charges de travail liées à l’IA. La DCI 800G répond à ce besoin de bande passante en offrant la marge nécessaire pour évoluer.

Pression sur la bande passante dans les centres de données IA

La nature du trafic d'entraînement de l'IA exerce une contrainte atypique sur les liaisons d'interconnexion par rapport aux applications classiques. Pendant l'entraînement, les gradients du modèle doivent être synchronisés entre tous les nœuds de calcul participants à la fin de chaque lot. Ce trafic « all-reduce » se compose de rafales synchronisées pouvant saturer même des liaisons à très haute capacité. Les données peuvent également être sauvegardées périodiquement (« checkpointed ») vers un stockage distribué, ce qui ajoute une charge supplémentaire. Les pipelines de préparation des données peuvent constituer un flux continu transférant des données entre différents niveaux de stockage et les modules de calcul. Lorsque ces trois événements se produisent simultanément, la charge globale sur les liaisons s'accumule. La solution 800G DCI répond à ces contraintes en acheminant l’intégralité d’une rafale « all-reduce » sur l’interconnexion via une seule longueur d’onde, sans mise en file d’attente. La réduction de la contre-pression (« backpressure ») à travers l’interconnexion permet une évolutivité linéaire du travail d’entraînement de l’IA.

La faible latence est essentielle pour les services d’IA

La bande passante n’est pas suffisante pour résoudre le problème d’interconnexion de l’IA : une faible latence est également cruciale. À travers centres de données , la latence de communication affecte le débit global d’entraînement, car les nœuds de calcul peuvent être contraints d’attendre leurs homologues au sein du cluster de calcul, ce qui entraîne une sous-utilisation précieuse des GPU. Une latence élevée peut nuire à l’expérience utilisateur des services d’IA tels que les systèmes autonomes, la détection de fraude et l’inférence en temps réel. Le DCI 800G réduit la latence grâce à un débit symbole plus élevé (réduisant la latence des paquets) et à une correction d’erreur directe plus avancée. En outre, les trajets optiques sont directs, évitant ainsi les routeurs qui ajoutent du délai au parcours des paquets. Lorsqu’on relie directement des clusters de calcul IA via le DCI 800G, la latence entre centres de données peut passer de millisecondes à microsecondes, permettant véritablement à l’entraînement distribué d’agir comme un seul cluster de calcul étendu sur un campus.

Principaux avantages de la mise à niveau vers le DCI 800G

dCI de 800 g présente un avantage sur de nombreux plans par rapport aux débits inférieurs. Son efficacité spectrale est deux fois supérieure à celle du 400G, ce qui permet aux opérateurs de doubler le débit sur la même infrastructure en fibre. La consommation énergétique diminue également, car le 800G consomme moins d’énergie par bit transmis que deux liaisons 400G fonctionnant simultanément. Grâce à une seule interface, la densité de ports sur les commutateurs et les routeurs augmente considérablement, libérant ainsi de la capacité pour la connectivité des ressources de calcul. L’efficacité opérationnelle s’améliore grâce à la simplification de la gestion des longueurs d’onde. Les nouveaux débits 800G permettent également de préparer les réseaux à l’avenir, car ils répondent aisément à la demande actuelle et retardent le moment où les opérateurs devront procéder à une nouvelle mise à niveau de leurs interconnexions, alors que le trafic lié à l’intelligence artificielle devrait augmenter de 50 % chaque année. Pour les opérateurs de nuages et de centres de données gérant des clients nécessitant de grands volumes de transfert de données, le DCI 800G offre un avantage commercial.

Déploiement souple pour une expansion rapide

La vitesse à laquelle les systèmes d’IA sont déployés signifie que la couche d’interconnexion peut devenir un frein. La technologie DCI 800G offre des options de déploiement flexibles. Pour des portées plus longues au sein du réseau métropolitain, les systèmes optiques en ligne sont capables d’étendre la distance de transmission tout en maximisant le débit de données. Les optiques pluggables 800G, compatibles avec les interfaces standard des commutateurs, permettent le déploiement le plus rapide : il suffit de les insérer, de les connecter et de les configurer. Les organisations qui construisent de nouveaux campus de centres de données peuvent tirer parti de plateformes DCI 800G spécifiquement conçues, offrant un meilleur contrôle de la gestion et de la surveillance des performances. En complément de ces solutions, l’appareil DCI-BOX de Sino-Telecom fournit une solution DCI ultra-compacte, pré-intégrée et économique, spécialement conçue pour les centres de données périphériques et le déploiement accéléré de services. Prendant en charge jusqu’à 800G par canal, le DCI-BOX réduit l’encombrement et la consommation énergétique tout en permettant un déploiement « plug-and-play ». Qu’il soit utilisé comme unité autonome dans des points de présence (POP) distants ou intégré à un réseau maillé plus étendu, le DCI-BOX garantit que l’augmentation de la capacité suit le rythme de la demande générée par l’IA, réduisant ainsi le délai de déploiement de plusieurs jours à quelques heures seulement. Quel que soit le scénario opérationnel, la technologie DCI 800G peut être déployée en quelques heures plutôt qu’en plusieurs jours, permettant ainsi de suivre l’évolution et l’expansion des infrastructures IA.

Options Ideal 800G pour les FAI et les centres de données

Différentes organisations ont des besoins uniques en matière de DCI 800G. Les centres de données dédiés à l’entraînement de l’IA, qui cherchent à étendre leurs capacités de calcul, nécessitent un débit élevé et une faible latence ; les solutions de DCI 800G point à point entre grappes sont donc idéales. Les fournisseurs d’accès Internet (FAI) qui assurent l’interconnexion de plusieurs clients IA doivent garantir une isolation stricte des longueurs d’onde afin d’éviter que des pics de trafic provenant d’un client n’affectent les autres. Les plateformes de DCI 800G configurables avec plusieurs transpondeurs permettent aux FAI d’attribuer et de facturer les longueurs d’onde individuellement. Chaque client doit également assurer la fiabilité du système afin qu’aucune erreur binaire ne force le redémarrage des tâches de calcul à partir du dernier point de contrôle.

Solutions 800G prêtes à l’emploi pour la croissance

Solutions de DCI 800G de Sino-Telecom sont adaptés aux besoins de l’interconnexion des centres de données IA. Pour les réseaux à plus longue distance ou comportant plusieurs sauts, nous proposons des plateformes DCI intégrant l’amplification, la compensation de la dispersion et la surveillance des canaux. Nos systèmes offrent un ajustement sans interruption de la capacité ainsi que des outils de diagnostic détaillés et des interfaces de gestion unifiées. Nous détenons plus de 240 brevets et plus de 150 licences de droits d’auteur sur des logiciels, et collaborons avec des réseaux dans plus de 30 pays différents, notamment la France, le Brésil, l’Australie et l’Indonésie. Notre portefeuille de produits comprend également une gamme complète d’optiques interchangeables 200G, 400G et 800G, offrant ainsi une solution complète allant du port commutateur à la ligne en fibre optique.