EN
Hver eneste del af netværket forbedres af kunstig intelligens. Omfattende træningsopgaver for store sprogmodeller, kørsel af distribuerede inferensmotorer og synkronisering af enorme datamængder på tværs af computerkluster stiller usædvanlige krav til forbindelserne mellem datacentre. 100G er ikke længere tilstrækkeligt til AI-arbejdsbelastninger, og 400G bliver hurtigt den nye basisstandard i stedet for målet. Velkommen til 800G DCI – den nye standard for AI-datacenterforbindelse.
Den stigende behov for 800G DCI
Racen mod 800G DCI er drevet af en række faktorer. For det første er størrelsen på AI-modellerne steget kraftigt. Antallet af parametre er vokset fra millioner til milliarder og trillioner. At sprede disse modeller over mange forskellige pods i forskellige datacentre kræver enorm båndbredde til at flyde mellem datacentrene. For det andet placerer distribueret træning nu datacenter-pods på tværs af hele en metroregion i samme beregningsklynge i stedet for inden for ét enkelt bygning. For det tredje kræver realtidsapplikationer såsom svindelopsporing og autonome systemer både meget høj gennemløbshastighed og konsekvent, deterministisk lav ventetid. Endelig fortsætter den samlede belastning på interconnect-forbindelser med tendensen mod privat AI-infrastruktur. Traditionelle 100G- og 200G-DCI-teknologier, som er acceptabel for almindelige arbejdsbelastninger, bliver til flaskehalse ved AI-arbejdsbelastninger. 800G-DCI imødegår behovet for båndbredde ved at give plads til vækst.
Båndbreddepres i AI-datacentre
Artens af AI-træningsdatastrøm påvirker interconnect-forbindelserne usædvanligt hårdt i forhold til almindelige applikationer. Under træningen skal modelgradienter synkroniseres på tværs af alle deltagende beregningsnoder i slutningen af hver batch. Denne all-reduce-trafik består af synkroniserede trafikudbrud, som kan overbelaste endda højkapacitetsforbindelser. Data kan også gemmes som kontrolpunkter (checkpointed) på distribueret lager med jævne mellemrum, hvilket yderligere øger belastningen. Dataforberedelsespipelines kan udgøre en konstant strøm, der flytter data mellem forskellige lagerlag og beregningspods. Når alle tre begivenheder indtræffer samtidigt, forstærkes den samlede belastning på forbindelserne. 800G DCI håndterer denne belastning ved at sende et komplet all-reduce-udbrud gennem interconnecten med én enkelt bølgelængde uden køvent. Ved at reducere backpressure gennem interconnecten opnås en lineær skalerbarhed af AI-træningsjobbet.
Lav ventetid er afgørende for AI-tjenester
Båndbredde er ikke tilstrækkelig til at løse AI-interconnect-problemet – lav ventetid er også afgørende. På tværs af datacentre , påvirker kommunikationsventetiden den samlede træningshastighed, fordi beregningsknuder måske bliver tvunget til at vente på deres naboer i beregningsklusteret og dermed udnytter de kostbare GPU'er suboptimalt. Høj ventetid kan føre til en dårlig brugeroplevelse for AI-tjenester som autonom kørsel, svindeldetektering og realtidsinferens. 800G DCI reducerer ventetiden ved hjælp af en hurtigere symbolsrate (der reducerer pakkeventetiden) og mere avanceret forward error correction. Desuden er optiske stier direkte og undgår routere, der tilføjer forsinkelse til pakkens rejse. Når AI-beregningsklustre kobles direkte sammen via 800G DCI, kan ventetiden mellem datacentre reduceres fra millisekunder til mikrosekunder – hvilket virkelig gør det muligt for distribueret træning at fungere som ét enkelt beregningskluster spredt ud over en campus.
Nøglefordele ved opgradering til 800G DCI
800 g DCI har en fordel på mange områder sammenlignet med lavere hastigheder. Dens spektrale effektivitet er dobbelt så stor som 400G’s, hvilket betyder, at operatører kan fordoble gennemstrømningen på den samme fiberinfrastruktur. Strømforbruget falder også, fordi 800G har et lavere energiforbrug pr. transmitteret bit i forhold til at køre to 400G-forbindelser. Med en enkelt grænseflade øges porttætheden på switches og routere betydeligt, hvilket frigør kapacitet til beregningsforbindelser. Driftseffektiviteten forbedres ved at forenkle bølgelængdehåndtering. De nye 800G-hastigheder fremtidssikrer også netværkene, da nuværende efterspørgsel nemt kan imødekommes, og det vil tage længere tid, inden operatører behøver at opgradere deres interconnects igen, da AI-trafikken forventes at stige med 50 % årligt. For cloud- og datacenteroperatører, der håndterer lejere med store krav til datatransfer, giver 800G DCI en forretningsmæssig fordel.
Fleksibel installation til hurtig udvidelse
Hastigheden, hvormed AI-systemer implementeres, betyder, at interconnect-laget kan blive en flaskehals. 800G DCI tilbyder fleksible implementeringsmuligheder. For længere rækkevidde inden for metro-netværket er optiske linjesystemer i stand til at udvide transmissionens rækkevidde, samtidig med at de maksimerer dataraten. 800G udskiftelige optikmoduler, der passer ind i standard-switchgrænseflader, giver den hurtigste implementering – blot indsæt, tilslut og konfigurer. Organisationer, der bygger nye datacenter-campus, kan udnytte formålsbyggede 800G DCI-platforme med større kontrol over administration og ydelsesovervågning. Som supplement til disse løsninger leverer Sino-Telecoms DCI-BOX-enhed en ekstremt kompakt, forudintegreret og omkostningseffektiv DCI-løsning, der er tilpasset edge-datacentre og hurtig serviceimplementering. Med op til 800G pr. kanal minimerer DCI-BOX pladsforbrug og strømforbrug samt muliggør plug-and-play-implementering. Uanset om den bruges som en selvstændig enhed i fjerne POP’er eller som en del af et større mesh-netværk sikrer DCI-BOX, at kapacitetsudvidelsen holder trit med AI-drevne krav, og reducerer implementeringstiden fra dage til kun timer. Uanset driftsscenario kan 800G DCI implementeres på få timer i stedet for dage og holde trit med væksten og skalaen af AI-infrastrukturen.
Ideal 800G-løsninger til ISPs og datacentre
Forskellige organisationer har unikke krav til 800G DCI. AI-træningsdatacentre, der fokuserer på at udvide deres beregningskapacitet, har brug for høj gennemløbshastighed og lav ventetid, så punkt-til-punkt 800G DCI mellem clustre er ideelle. ISPs, der leverer tilslutning til flere AI-kunder, kræver streng bølgelængdeisolering for at forhindre, at trafiktoppe fra én kunde påvirker andre. 800G DCI-platforme, der kan konfigureres med flere transpondere, giver ISPs mulighed for at tildele og fakturere bølgelængder individuelt. Alle kunder skal også sikre pålidelighed, så bitfejl ikke tvinger beregningsopgaver til at genstarte fra det sidste kontrolpunkt.
Færdige 800G-løsninger til vækst
Sino-Telecoms 800G DCI-løsninger er tilpasset behovene for AI-datacenterforbindelser. Til længere netværksforbindelser eller flere hop tilbyder vi DCI-platforme, der er integreret med forstærkning, dispersionkompensation og kanalovervågning. Vores systemer tilbyder justering af kapacitet uden afbrydelse samt detaljerede diagnosticeringsværktøjer og fælles administrationsgrænseflader. Vi har mere end 240+ patenter og 150+ softwarecopyrights og samarbejder med netværk i over 30 forskellige lande, herunder Frankrig, Brasilien, Australien og Indonesien. Vores produktprogram inkluderer også en komplet serie af 200G-, 400G- og 800G-plugbare optiske enheder for en omfattende løsning fra switchport til fiber-optisk linje.