EN
Hver del av nettverket forbedres av kunstig intelligens. Massive treningsjobber for store språkmodeller, kjøring av distribuerte inferensmotorer og synkronisering av enorme mengder data mellom datamaskinklyster legger en utenkelig belastning på interkoblingene som kobler sammen datassentre. 100G er ikke lenger tilstrekkelig for AI-arbeidsbelastninger, og 400G blir raskt den nye grunnlinjen i stedet for målet. Velkommen til 800G DCI – den nye standarden for AI-datassenterinterkobling.
Økende behov for 800G DCI
Rasen mot 800G DCI drives av en rekke faktorer. For det første har størrelsen på AI-modeller økt kraftig. Antallet parametere har gått fra millioner til milliarder og trillioner. Å spre disse modellene over mange ulike pods i ulike datacentre krever enorm båndbredde for å overføre data mellom datacentrene. For det andre plasserer distribuert trening nå datacenter-pods over hele et byområde i samme beregningskluster, i stedet for innenfor ett enkelt bygg. For det tredje krever sanntidsapplikasjoner som svindeldeteksjon og autonome systemer både svært høy gjennomstrømning og konsekvent, deterministisk lav latens. Til slutt fortsetter den kumulative belastningen på interkoblingslenker å øke med trenden mot privat AI-infrastruktur. Tradisjonelle 100G- og 200G-DCI-teknologier, som er akseptable for konvensjonelle arbeidsbelastninger, blir flaskehals i AI-arbeidsbelastninger. 800G DCI løser behovet for båndbredde ved å gi rom for vekst.
Båndbreddetrykk i AI-datacentre
AI-treningens trafikkart legger en uvanlig stor belastning på interkonnekteringslenker sammenlignet med vanlige applikasjoner. Under treningen må modellgradientene synkroniseres mellom alle deltagende beregningsnoder ved slutten av hver batch. Denne «all-reduce»-trafikken består av synkroniserte trafikkbølger som kan overbelaste selv lenker med høy kapasitet. Data kan også lagres i distribuert lagring med jevne mellomrom (checkpointing), noe som legger til ekstra belastning. Datapreparasjonsrørledninger kan utgöra en konstant strøm som flytter data mellom ulike lagringsnivåer og beregningspodene. Når alle tre hendelsene skjer samtidig, multipliseres den samlede lenkebelastningen. 800G DCI håndterar disse belastningene ved å sende en hel «all-reduce»-bølge over interkonnekteringslenken ved hjelp av én enkelt bølgelengde uten køing. Ved å redusere baktrykk gjennom interkonnekteringslenken oppnås en lineær skalering av AI-treningsjobben.
Lav latens er viktig for AI-tjenester
Båndbredden er ikke tilstrekkelig for å løse AI-tilkoblingsproblemet – lav latens er også avgjørende. I hele dataentre , påvirker kommunikasjonslatensen den totale treningsytelsen, fordi beregningsnoder kan bli tvunget til å vente på sine likemenn i beregningsklusteret, og dermed går verdifulle GPU-er til spille. Høy latens kan føre til en dårlig brukeropplevelse for AI-tjenester som autonome systemer, svindeldeteksjon og sanntidsinferens. 800G DCI reduserer latensen ved hjelp av en raskere symbolsk rate (som reduserer pakkelatensen) og mer avansert fremoverfeilkorrigering. Videre er optiske veier direkte, og unngår rutere som legger til forsinkelse i pakkenes reise. Når AI-beregningkluster kobles direkte sammen via 800G DCI, kan latensen mellom data-sentre reduseres fra millisekunder til mikrosekunder – noe som virkelig gjør det mulig for distribuert trening å fungere som ett enkelt beregningskluster spredt over et campus.
Nøkkelfordeler med oppgradering til 800G DCI
800 g DCI har en fordel på mange områder sammenlignet med lavere hastigheter. Den spektrale effektiviteten er dobbelt så høy som for 400G, noe som betyder at operatører kan doble kapasiteten på samme fiberinfrastruktur. Strømforbruket reduseres også, siden 800G har lavere energiforbruk per overført bit enn å kjøre to 400G-lenker. Med et enkelt grensesnitt økes porttettheten på switche og rutere betydelig, noe som frigjør kapasitet for beregningskobling. Driftseffektiviteten forbedres ved å forenkle bølgelengdeadministrasjonen. De nye 800G-hastighetene fremtidssikrer også nettverkene, siden dagens behov lett kan dekkes og det vil ta lengre tid før operatører må oppgradere sine interkoblinger igjen – da AI-trafikken forventes å øke med 50 % hvert år. For sky- og data-senteroperatører som administrerer leietakere som krever store mengder datatransfer, gir 800G DCI en forretningsmessig fordel.
Fleksibel distribusjon for rask utvidelse
Farten på hvilken AI-systemer settes i drift betyr at interkoblingslaget kan bli en flaskehals. 800G DCI tilbyr fleksible installasjonsalternativer. For lengre rekkevidde innenfor metronettverket er optiske linjesystemer i stand til å utvide overføringsavstanden samtidig som de maksimerer dataraten. 800G utskiftbare optiske moduler som passer inn i standardbrytergrensesnitt tilbyr raskeste installasjon – bare sett inn, koble til og konfigurer. Organisasjoner som bygger ut nye datacenterområder kan utnytte dedikerte 800G DCI-plattformer med større kontroll over administrasjon og ytelsesovervåking. Som komplement til disse løsningene leverer Sino-Telecoms DCI-BOX-enhet en ekstremt kompakt, forhåndintegrert og kostnadseffektiv DCI-løsning som er tilpasset edge-datacentre og rask implementering av tjenester. Med støtte for opptil 800G per kanal minimerer DCI-BOX plass- og strømforbruk samtidig som den muliggjør «plug-and-play»-installasjon. Uansett om den brukes som en selvstendig enhet i fjerne POP-er eller som en del av et større mesh-nettverk, sikrer DCI-BOX at kapasitetsutvidelse følger med etter AI-drevne behov, og reduserer installasjonstiden fra dager til bare timer. Uansett driftssituasjon kan 800G DCI installeres på timer i stedet for dager, og holder tritt med veksten og skalaen til AI-infrastrukturen.
Ideal 800G-valg for ISP-er og data-sentre
Ulike organisasjoner har unike krav til 800G DCI. AI-treningsdata-sentre som fokuserer på å skala opp sine beregningskrav trenger høy gjennomstrømning og lav latens, så punkt-til-punkt 800G DCI mellom kluster er ideelt. ISP-er som tilbyr tilkobling til flere AI-kunder krever streng bølgelengdeisolering for å forhindre at trafikkbølger fra én kunde påvirker andre. 800G DCI-plattformer som kan konfigureres med flere transpondere gir ISP-er mulighet til å tildele og fakturere bølgelengder individuelt. Alle kunder må også sikre pålitelighet slik at bitfeil ikke tvinger beregningsjobber til å starte på nytt fra siste sjekkpunkt.
Ferdige 800G-løsninger for vekst
Sino-Telecoms 800G DCI-løsninger er tilpasset behovene til AI-datacenters interkobling. For nettverk over lengre avstander eller med flere hop tilbyr vi DCI-plattformer som er integrert med forsterkning, dispersjonskompensasjon og kanalovervåking. Våre systemer tilbyr justering av kapasitet uten avbrytelse og detaljerte diagnostiske verktøy samt enhetlige administrasjonsgrensesnitt. Vi har mer enn 240 patenter og over 150 programvarecopyrights, og samarbeider med nettverk i mer enn 30 ulike land, inkludert Frankrike, Brasil, Australia og Indonesia. Vårt produktsortiment omfatter også et fullstendig utvalg av utbyttbare optiske moduler på 200 G, 400 G og 800 G for en helhetlig løsning fra switcheport til fiberkabel.