800G DCI pro propojení datových center pro umělou inteligenci: propustnost, zpoždění a nasazení

Každá část sítě je v současnosti zlepšována pomocí umělé inteligence. Rozsáhlé úlohy trénování velkých jazykových modelů, provoz distribuovaných inferenčních modulů a synchronizace obrovských objemů dat napříč clustery počítačů vyvíjejí bezprecedentní zátěž na propojení mezi datovými centry. Rychlost 100G již není pro úlohy umělé inteligence dostačující a rychlost 400G se rychle stává novým standardem namísto cílové hodnoty. Na scéně se objevuje 800G DCI – nový standard pro propojení datových center s umělou inteligencí.

Rostoucí potřeba 800G DCI

Závod k 800G DCI je poháněn součinností několika faktorů. Za prvé se velikost modelů umělé inteligence výrazně zvětšila – počet parametrů vzrostl z milionů na miliardy a triliony. Rozšíření těchto modelů napříč mnoha různými uzly (pody) v různých datových centrech vyžaduje obrovskou šířku pásma pro přenos mezi těmito datovými centry. Za druhé distribuované trénování nyní umísťuje uzly datových center do celé metropolitní oblasti do jednoho výpočetního clusteru, nikoli pouze do jediné budovy. Za třetí reálné aplikace, jako je detekce podvodů nebo autonomní systémy, vyžadují jak obrovskou propustnost, tak konzistentní a deterministickou nízkou latenci. Nakonec s trendem směrem k privátní infrastruktuře umělé inteligence stále více roste celková zátěž spojovacích linek. Tradiční technologie DCI o rychlosti 100G a 200G, které jsou pro běžné úlohy stále přijatelné, se u úloh umělé inteligence stávají úzkým hrdlem. Technologie 800G DCI řeší potřebu šířky pásma tím, že poskytuje prostor pro růst.

Tlak na šířku pásma v datových centrech umělé inteligence

Charakter provozu při trénování umělé inteligence vyžaduje v porovnání s běžnými aplikacemi atypicky vysoké zatížení propojovacích spojů. Během trénování je nutné na konci každé dávky synchronizovat gradienty modelu napříč všemi zapojenými výpočetními uzly. Tento provoz typu all-reduce se skládá ze synchronizovaných, krátkodobých provozních špiček, které mohou přetížit i spoje s velmi vysokou propustností. Data lze také pravidelně ukládat do distribuovaného úložiště (tzv. checkpointing), čímž se zatížení dále zvyšuje. Potrubí pro přípravu dat může představovat nepřetržitý proud přesunující data mezi jednotlivými úrovněmi úložiště a výpočetními uzly (pod). Když všechny tři události probíhají současně, celkové zatížení spojů se násobí. Řešení 800G DCI tyto zátěže řeší tím, že celou špičku provozu typu all-reduce přenáší přes propojovací spoj jedinou vlnovou délkou bez fronty. Snížení tlaku zpětné vazby (backpressure) přes propojovací spoj umožňuje lineární škálování úlohy trénování umělé inteligence.

Nízká latence je pro služby umělé inteligence rozhodující

Pásmová šířka není dostatečná k vyřešení problému propojení umělé inteligence – stejně důležitá je i nízká latence. V rámci datová centra , komunikační latence ovlivňuje celkový výkon trénování, protože výpočetní uzly mohou být nuceny čekat na své protějšky ve výpočetním clusteru, čímž dochází k nevyužití cenných GPU. Vysoká latence může vést ke zhoršené uživatelské zkušenosti u služeb umělé inteligence, jako jsou autonomní systémy, detekce podvodů a reálné odvozování (real-time inference). Řešení 800G DCI snižuje latenci díky vyšší symbolové rychlosti (což snižuje latenci paketů) a pokročilejšímu přednímu kódování pro opravu chyb (FEC). Navíc optické trasy jsou přímé a vyhýbají se směrovačům, které by zpoždění paketů zvýšily. Při přímém propojení výpočetních clusterů umělé inteligence prostřednictvím 800G DCI lze latenci mezi datovými centry snížit z milisekund na mikrosekundy – což skutečně umožňuje distribuovanému trénování fungovat jako jeden výpočetní cluster rozprostřený napříč celým kampusem.

Klíčové výhody modernizace na 800G DCI

800 g DCI má v mnoha ohledech výhodu oproti nižším rychlostem. Jeho spektrální účinnost je dvojnásobná oproti 400G, což znamená, že provozovatelé mohou zdvojnásobit propustnost na stejné optické infrastruktuře. Spotřeba energie se také snižuje, protože 800G má nižší energetickou náročnost na přenášený bit ve srovnání s provozem dvou linek 400G. Díky jedinému rozhraní se také výrazně zvyšuje hustota portů na směrovačích a přepínačích, čímž se uvolní kapacita pro připojení výpočetních prostředků. Provozní efektivita se zlepšuje zjednodušením správy vlnových délek. Nové rychlosti 800G také zajišťují budoucnost sítí, protože současná poptávka je snadno uspokojitelná a operátoři budou muset své mezisíťové připojení aktualizovat až za delší dobu, neboť provozní zátěž způsobená umělou inteligencí roste o předpokládaných 50 % ročně. Pro poskytovatele cloudu a datových center, kteří spravují nájemce vyžadující velké objemy přenosu dat, představuje 800G DCI obchodní výhodu.

Flexibilní nasazení pro rychlé rozšiřování

Rychlost, kterou se nasazují systémy umělé inteligence, znamená, že vrstva propojení může stát překážkou. Řešení 800G DCI nabízí flexibilní možnosti nasazení. Pro delší dosah v rámci metropolitní sítě jsou optické linkové systémy schopny prodloužit vzdálenost přenosu a zároveň maximalizovat přenosovou rychlost dat. Modulární optické komponenty 800G, které se vejdou do standardních rozhraní přepínačů, umožňují nejrychlejší nasazení – stačí je vložit, připojit a nakonfigurovat. Organizace, které rozšiřují nové areály datových center, mohou využít specializované platformy 800G DCI, které poskytují vyšší míru kontroly nad správou a sledováním výkonu. K těmto řešením se připojuje zařízení DCI-BOX od společnosti Sino-Telecom, které představuje extrémně kompaktní, předem integrované a cenově výhodné řešení DCI určené pro hraniční datová centra a rychlé nasazování služeb. Zařízení DCI-BOX podporuje až 800G na kanál, minimalizuje nároky na prostor i spotřebu energie a umožňuje nasazení typu plug-and-play. Ať už je používáno jako samostatná jednotka v odlehlejších bodových uzlech (POP) nebo jako součást rozsáhlejší síťové struktury (mesh network), DCI-BOX zajišťuje, že škálování kapacity krok za krokem sleduje poptávku generovanou umělou inteligencí, čímž se doba nasazení zkracuje ze dnů na pouhé hodiny. Bez ohledu na konkrétní provozní scénář lze řešení 800G DCI nasadit během několika hodin místo dnů, a tím udržet krok s růstem a škálováním infrastruktury umělé inteligence.

Ideální možnosti 800G pro poskytovatele internetových služeb (ISP) a datová centra (DC)

Různé organizace mají pro DCI 800G specifické požadavky. Datová centra pro trénink umělé inteligence, jejichž hlavním cílem je škálování výpočetních kapacit, potřebují vysokou propustnost a nízkou latenci, a proto jsou pro ně ideální bod-ke-bodu řešení DCI 800G mezi clustery. Poskytovatelé internetových služeb (ISP), kteří zajišťují vzájemné propojení pro více klientů využívajících umělou inteligenci, vyžadují přísné izolování vlnových délek, aby nedošlo k tomu, že by náhly nárůst provozu jednoho klienta ovlivnil ostatní. Platformy DCI 800G, které lze konfigurovat s více transpondery, umožňují ISP individuální přiřazení a fakturaci vlnových délek. Každý zákazník navíc musí zajistit spolehlivost, aby chyby bitů nezpůsobily restart výpočetních úloh od posledního kontrolního bodu.

Připravená řešení 800G pro růst

Řešení DCI 800G společnosti Sino-Telecom jsou přizpůsobeny potřebám propojení datových center umělé inteligence. Pro sítě s delší vzdáleností nebo více skoky nabízíme platformy pro DCI, které jsou integrovány s zesilovači, kompenzací disperze a monitorováním kanálů. Naše systémy umožňují bezvýpadkovou úpravu kapacity a poskytují podrobné diagnostické nástroje i sjednocené rozhraní pro správu. Držíme více než 240 patentů a více než 150 softwarových autorských práv a spolupracujeme se sítěmi ve více než 30 různých zemích, včetně Francie, Brazílie, Austrálie a Indonésie. Naše produktová řada zahrnuje také kompletní sadu zasunovatelných optických modulů 200G, 400G a 800G pro komplexní řešení od portu switche až po optické vlákno.