800G DCI pre spojenie dátových centier pre umelú inteligenciu: priepustnosť, oneskorenie a nasadenie

Každá časť siete sa zlepšuje pomocou umelej inteligencie. Obrovské úlohy trénovania jazykových modelov, spúšťanie distribuovaných inferenčných mechanizmov a synchronizácia obrovských objemov dát medzi zhlukmi počítačov vyvíjajú bezprecedentný tlak na prepojenia medzi dátovými centrami. Rýchlosť 100G už nie je pre úlohy AI dostatočná a rýchlosť 400G sa rýchlo stáva novým základom namiesto cieľa. Vstupuje 800G DCI – nový štandard pre prepojenie dátových centier AI.

Rastúca potreba 800G DCI

Súťaž o 800G DCI je spôsobená súčasťou viacerých faktorov. Po prvé, veľkosť modelov umelej inteligencie výrazne vzrástla. Počet parametrov sa zvýšil z miliónov na miliardy a trilióny. Rozšírenie týchto modelov do mnohých rôznych uzlov (pods) v rôznych dátových centrách vyžaduje obrovskú priepustnosť pre prenos dát medzi dátovými centrami. Po druhé, distribuované trénovanie teraz umiestňuje uzly dátových centier po celom metropolitnom území do jedného výpočtového zhluku namiesto toho, aby boli umiestnené v rámci jednej budovy. Po tretie, aplikácie v reálnom čase, ako napríklad detekcia podvodov a autonómne systémy, vyžadujú nielen obrovskú propustnosť, ale aj konzistentnú, deterministickú nízku latenciu. Nakoniec, vzhľadom na trend smerujúci k privátnej infraštruktúre umelej inteligencie sa celková záťaž na spojovacích linkách neustále zvyšuje. Tradičné technológie DCI s rýchlosťou 100 G a 200 G, ktoré sú stále vhodné pre bežné úlohy, sa v prípade úloh umelej inteligencie stávajú úzkym hrdlom. Technológia DCI s rýchlosťou 800 G rieši potrebu vyššej priepustnosti tým, že poskytuje priestor na ďalší rast.

Tlak na priepustnosť v dátových centrách umelej inteligencie

Charakter AI trénovacej premávky vyvíja na medzizariadenkové spojenia nezvyčajne veľkú záťaž v porovnaní s bežnými aplikáciami. Počas trénovania sa musia na konci každej dávkovej spracovania synchronizovať gradienty modelu medzi všetkými zapojenými výpočtovými uzlami. Táto premávka typu all-reduce pozostáva zo synchronizovaných prudkých dátových výbuchov, ktoré môžu preplniť aj spojenia s vysokou priepustnosťou. Údaje sa tiež môžu v pravidelných intervaloch ukladať do distribuovanej úložnej infraštruktúry (tzv. checkpointing), čím sa ďalšie zvyšuje zaťaženie. Potoky na prípravu údajov môžu predstavovať nepretržitý tok údajov medzi jednotlivými úrovňami úložiska a výpočtovými uzlami („pods“). Keď všetky tri udalosti nastačia súčasne, celkové zaťaženie spojení sa násobí. Riešenie 800G DCI tieto záťaže zvláda tak, že celý dátový výbuch typu all-reduce prenáša cez medzizariadenkové spojenie pomocou jediného vlnového dĺžkového kanála bez frontovania. Zníženie spätného tlaku cez medzizariadenkové spojenie umožňuje lineárne škálovanie úlohy AI trénovania.

Nízka latencia je pre služby AI rozhodujúca

Pásmová šírka nie je dostatočná na vyriešenie problému prepojenia umelej inteligencie – kľúčový je tiež nízky latencný čas. V rámci údaje , latencia komunikácie ovplyvňuje celkový výkon trénovania, pretože výpočtové uzly môžu byť nútené čakať na svojich partnerov v rámci výpočtového klastra, čím sa neefektívne využívajú cenné GPU. Vysoká latencia môže viesť k zhoršeniu užívateľského zážitku pri službách umelej inteligencie, ako sú autonómne systémy, detekcia podvodov a inferencia v reálnom čase. DCI s rýchlosťou 800 Gb/s zníži latenciu prostredníctvom vyššej symbolovej rýchlosti (čím sa zníži latencia paketov) a pokročilejšej techniky korekcie chýb dopredu (FEC). Okrem toho optické trasy sú priame a vyhýbajú sa smerovačom, ktoré pridávajú do cesty paketu ďalšie oneskorenie. Pri priamom pripojení výpočtových klastrou umelej inteligencie prostredníctvom DCI s rýchlosťou 800 Gb/s sa latencia medzi dátovými centrami môže znížiť z milisekúnd na mikrosekundy – čo skutočne umožňuje distribuovanému trénovaniu fungovať ako jeden výpočtový klastor rozprestrený po celom areáli.

Kľúčové výhody aktualizácie na DCI s rýchlosťou 800 Gb/s

800 g DCI má výhodu na mnohých frontoch v porovnaní s nižšími rýchlosťami. Jeho spektrálna účinnosť je dvojnásobná v porovnaní s 400G, čo znamená, že prevádzkovatelia môžu zdvojnásobiť priepustnosť na rovnakej opticko-vláknom infraštruktúre. Spotreba energie tiež klesá, pretože 800G má nižšiu spotrebu energie na prenesený bit v porovnaní so spustením dvoch 400G spojení. S jediným rozhraním sa tiež výrazne zvyšuje hustota portov na prepínačoch a smerovačoch, čím sa uvoľňuje kapacita pre pripojenie výpočtových prostriedkov. Prevádzková účinnosť sa zlepšuje zjednodušením správy vlnových dĺžok. Nové rýchlosti 800G tiež zabezpečujú budúcnosť sietí, pretože súčasná poptávka sa ľahko uspokojí a operátorom bude trvať dlhšie, kým budú musieť znovu aktualizovať svoje medzisieťové pripojenia vzhľadom na očakávaný ročný nárast AI premávky o 50 %. Pre poskytovateľov cloudových služieb a dátových centier, ktorí spravujú nájomcov vyžadujúcich veľké množstvá prenášaných dát, má 800G DCI obchodnú výhodu.

Prispôsobiteľné nasadenie pre rýchle rozširovanie

Rýchlosť, akou sa nasadzujú systémy umelej inteligencie, znamená, že vrstva prepojenia môže stať prekážkou. Riešenie 800G DCI ponúka flexibilné možnosti nasadenia. Pre väčšiu dosahovú vzdialenosť v rámci mestských sietí sú optické linkové systémy schopné predĺžiť vzdialenosť prenosu a zároveň maximalizovať dátovú rýchlosť. Plug-and-play optické moduly 800G, ktoré sa zmestia do štandardných rozhraní prepínačov, umožňujú najrýchlejšie nasadenie – stačí ich vložiť, pripojiť a nakonfigurovať. Organizácie, ktoré budujú nové kampusy dátových centier, môžu využiť špeciálne navrhnuté platformy 800G DCI, ktoré poskytujú vyššiu mieru kontroly nad správou a monitorovaním výkonu. V doplnku k týmto riešeniam zariadenie DCI-BOX od spoločnosti Sino-Telecom ponúka ultra-kompaktné, predinstalované a cenovo výhodné riešenie DCI, ktoré je prispôsobené hraničným dátovým centrom a rýchlemu nasadeniu služieb. So schopnosťou podporovať až 800G na kanál minimalizuje zariadenie DCI-BOX priestorové a energetické nároky a zároveň umožňuje nasadenie typu plug-and-play. Či sa používa ako samostatná jednotka v odľahlých POPoch (points of presence) alebo ako súčasť väčšej mesh siete, zariadenie DCI-BOX zabezpečuje, aby sa škálovanie kapacity udržiavalo tempom rastúceho dopytu vyvolaného umeľou inteligenciou, čím sa doba nasadenia skráti zo dní na len niekoľko hodín. Bez ohľadu na operačný scénár sa riešenie 800G DCI môže nasadiť za niekoľko hodín namiesto dní, čím sa udrží tempo rastu a škálovania infraštruktúry umelej inteligencie.

Ideálne možnosti 800G pre ISP a dátové centrá

Rôzne organizácie majú pre 800G DCI špecifické požiadavky. Dátové centrá určené na trénovanie umelej inteligencie, ktoré sa sústreďujú na zvyšovanie výpočtových kapacít, potrebujú vysokú priepustnosť a nízku latenciu, preto sú pre ne ideálne point-to-point riešenia 800G DCI medzi zhlukmi. Poskytovatelia internetových služieb (ISP), ktorí poskytujú pripojenie viacerým klientom využívajúcim umeľnú inteligenciu, vyžadujú prísne oddelenie vlnových dĺžok, aby sa zabránilo tomu, že by náhle nárasty premávky od jedného klienta ovplyvnili ostatných. Platformy 800G DCI, ktoré je možné konfigurovať pomocou viacerých transpondrov, umožnia ISP individuálne prideliť a fakturovať vlnové dĺžky. Každý zákazník tiež musí zabezpečiť spoľahlivosť, aby chyby bitov nevynútili reštart výpočtových úloh od posledného kontrolného bodu.

Hotové riešenia 800G pre rast

Riešenia 800G DCI spoločnosti Sino-Telecom sú prispôsobené potrebám prepojenia dátových centier umelej inteligencie. Pre siete s väčšou vzdialenosťou alebo viacerými skokmi ponúkame platformy DCI, ktoré sú integrované so zosilňovaním, kompenzáciou disperzie a monitorovaním kanálov. Naše systémy ponúkajú úpravu kapacity bez prerušenia prevádzky a podrobné diagnostické nástroje, ako aj jednotné rozhrania pre správu. Držíme viac ako 240 patentov a viac ako 150 softvérových autorských práv a spolupracujeme so sieťami v viac ako 30 rôznych krajinách vrátane Francúzska, Brazílie, Austrálie a Indonézie. Naša výrobná ponuka zahŕňa tiež kompletnú škálu zásuvných optických modulov 200G, 400G a 800G pre komplexné riešenie od portu prepínača po optické vlákno.