EN
Elk onderdeel van het netwerk wordt verbeterd door kunstmatige intelligentie. Uitgebreide trainingsjobs voor grote taalmodellen, gedistribueerde inferentiemotoren en het synchroniseren van enorme hoeveelheden gegevens tussen clusters van computers leggen ongekende belasting op de interconnecties die datacenters met elkaar verbinden. 100G is niet langer voldoende voor AI-workloads en 400G wordt snel de nieuwe basisstandaard in plaats van het doel. Welkom bij 800G DCI — de nieuwe standaard voor interconnectie van AI-datacenters.
De groeiende behoefte aan 800G DCI
De race naar 800G DCI wordt gedreven door een samenvloeiing van factoren. Ten eerste is de omvang van AI-modellen enorm toegenomen. Het aantal parameters is gestegen van miljoenen naar miljarden en biljoenen. Het verspreiden van deze modellen over vele verschillende pods in verschillende datacenters vereist een enorme bandbreedte voor de gegevensstromen tussen de datacenters. Ten tweede plaatst gedistribueerde training nu datacenterpods over een hele metropolitane regio binnen één rekencluster, in plaats van binnen één gebouw. Ten derde vereisen real-timetoepassingen zoals fraudeopsporing en autonome systemen zowel een zeer hoge doorvoersnelheid als consistente, deterministische lage latentie. Ten slotte blijft de cumulatieve belasting op interconnectverbindingen groeien door de trend naar privé-AI-infrastructuur. Traditionele 100G- en 200G-DCI-technologieën, die nog acceptabel zijn voor conventionele workloads, vormen een bottleneck bij AI-workloads. 800G DCI lost de bandbreedtebehoefte op door ruimte te bieden voor uitbreiding.
Bandbreddruk in AI-datacenters
De aard van het verkeer bij AI-training legt, vergeleken met normale toepassingen, een atypische belasting op de interconnectverbindingen. Tijdens de training moeten modelgradiënten aan het einde van elke batch worden gesynchroniseerd tussen alle deelnemende rekenknooppunten. Dit ‘all-reduce’-verkeer bestaat uit gesynchroniseerde verkeerspieken die zelfs zeer capabele verbindingen kunnen verzadigen. Gegevens kunnen ook periodiek worden gecontroleerd en opgeslagen in gedistribueerde opslag, wat extra belasting veroorzaakt. Data-voorbereidingspijplijnen kunnen een constante stroom zijn die gegevens verplaatst tussen verschillende opslagniveaus en de rekenpods. Wanneer alledrie deze gebeurtenissen gelijktijdig optreden, wordt de totale belasting op de verbindingen vermenigvuldigd. 800G DCI lost deze belastingen op door een volledige ‘all-reduce’-piek via één enkele golflengte over de interconnect te verzenden, zonder in een wachtrij te hoeven staan. Door de terugdruk via de interconnect te verminderen, wordt een lineaire schaalbaarheid van de AI-trainingstaak mogelijk.
Lage latentie is belangrijk voor AI-services
De bandbreedte is niet voldoende om het AI-interconnectprobleem op te lossen — lage latentie is ook cruciaal. Over datacentra , beïnvloedt de communicatielatentie de algehele trainingsdoorvoer, omdat rekenknooppunten gedwongen kunnen worden te wachten op hun peers in het rekencluster, waardoor kostbare GPU’s onbenut blijven. Hoge latentie kan leiden tot een slechte gebruikerservaring bij AI-diensten zoals autonome systemen, fraudeherkenning en real-time inferentie. 800G DCI vermindert de latentie door een hogere symboolsnelheid (waardoor de pakketlatentie afneemt) en geavanceerdere forward error correction. Bovendien zijn optische paden direct, waardoor routers die vertraging toevoegen aan de reis van het pakket worden vermeden. Bij directe verbinding van AI-rekenclusters via 800G DCI kan de latentie tussen datacenters worden verminderd van milliseconden naar microseconden — wat gedistribueerde training echt mogelijk maakt alsof het één rekencluster is die zich over een campus uitstrekt.
Belangrijkste voordelen van de 800G-DCI-upgrade
800 g DCI heeft op vele fronten een voordelen ten opzichte van lagere snelheden. Het spectrale rendement is tweemaal zo hoog als dat van 400G, wat betekent dat exploitanten de doorvoer op dezelfde glasvezelinfrastructuur kunnen verdubbelen. Het stroomverbruik neemt ook af, omdat 800G een lager energieverbruik per verzonden bit heeft dan het gebruik van twee 400G-koppelingen. Met een enkele interface neemt de poortdichtheid op switches en routers ook aanzienlijk toe, waardoor capaciteit vrijkomt voor compute-connectiviteit. De operationele efficiëntie wordt verbeterd door vereenvoudiging van het golflengtebeheer. De nieuwe 800G-snelheden maken netwerken ook toekomstbestendig, omdat de huidige vraag gemakkelijk kan worden ingewilligd en het langer duurt voordat exploitanten hun interconnects opnieuw hoeven te upgraden naarmate AI-verkeer jaarlijks met verwachte 50% toeneemt. Voor cloud- en datacenterexploitanten die tenants beheren die grote hoeveelheden gegevensoverdracht vereisen, biedt 800G DCI een zakelijk voordeel.
Flexibele implementatie voor snelle uitbreiding
De snelheid waarmee AI-systemen worden geïmplementeerd betekent dat de interconnectlaag een knelpunt kan worden. 800G DCI biedt flexibele implementatieopties. Voor langere bereiken binnen het metro-netwerk zijn optische lijnsystemen in staat om de transmissieafstand uit te breiden terwijl de gegevenssnelheid wordt gemaximaliseerd. 800G-insteekbare optische componenten die passen in standaard-switchinterfaces bieden de snelste implementatie—gewoon insteken, aansluiten en in bedrijf stellen. Organisaties die nieuwe datacentercampussen bouwen, kunnen gebruikmaken van speciaal ontwikkelde 800G-DCI-platforms met meer controle over beheer en prestatiebewaking. Als aanvulling op deze oplossingen biedt het DCI-BOX-apparaat van Sino-Telecom een uiterst compacte, vooraf geïntegreerde en kosteneffectieve DCI-oplossing die is afgestemd op edge-datacenters en snelle serviceimplementaties. Met ondersteuning van maximaal 800G per kanaal minimaliseert de DCI-BOX ruimte- en stroomverbruik, terwijl plug-and-play-implementatie mogelijk is. Of deze nu als zelfstandige eenheid wordt gebruikt in afgelegen POP’s of als onderdeel van een groter mesh-netwerk, de DCI-BOX zorgt ervoor dat capaciteitsuitbreiding gelijk opgaat met de door AI gedreven vraag, waardoor de implementatietijd wordt teruggebracht van dagen tot slechts uren. Ongeacht het operationele scenario kan 800G DCI binnen uren in plaats van dagen worden geïmplementeerd, waardoor de groei en schaalbaarheid van AI-infrastructuur worden bijgehouden.
Ideal 800G-opties voor ISPs en datacenters
Verschillende organisaties hebben unieke vereisten voor 800G DCI. AI-trainingsdatacenters die zich richten op het schalen van hun rekenkracht, hebben hoge doorvoer en lage latentie nodig, waardoor point-to-point 800G DCI tussen clusters ideaal is. ISPs die interconnectiviteit bieden aan meerdere AI-klanten, vereisen strikte golflengte-isolatie om te voorkomen dat verkeerspieken van één klant andere klanten beïnvloeden. 800G DCI-platforms die configureerbaar zijn met meerdere transponders, stellen ISPs in staat om golflengten individueel toe te wijzen en in rekening te brengen. Elke klant moet ook betrouwbaarheid waarborgen, zodat bitfouten geen herstart van rekenjobs vanaf het laatste controlepunt noodzaken.
Klaarstaande 800G-oplossingen voor groei
Sino-Telecom’s 800G DCI-oplossingen zijn afgestemd op de behoeften van AI-datacenterinterconnectie. Voor langere afstandnetwerken of meerdere hops bieden wij DCI-platforms aan die geïntegreerd zijn met versterking, dispersiecompensatie en kanaalbewaking. Onze systemen bieden hitless capaciteitsaanpassing en gedetailleerde diagnostische tools, evenals geïntegreerde beheerinterfaces. Wij bezitten meer dan 240 patenten en meer dan 150 softwarecopyrights en werken samen met netwerken in meer dan 30 verschillende landen, waaronder Frankrijk, Brazilië, Australië en Indonesië. Ons productassortiment omvat ook een volledige reeks 200G-, 400G- en 800G-plugbare optische transceivers voor een uitgebreide oplossing van switchpoort tot glasvezelverbinding.