800G DCI do połączeń centrów danych AI: przepustowość, opóźnienia i wdrażanie

Każda część sieci jest obecnie ulepszana przy użyciu sztucznej inteligencji. Masywne zadania treningowe dla dużych modeli językowych, uruchamianie rozproszonych silników wnioskowania oraz synchronizacja ogromnych ilości danych między klastrami komputerów generują nieprzezwyciężone obciążenie połączeń łączących centra danych. Przepustowość 100G nie jest już wystarczająca dla obciążeń AI, a 400G szybko staje się nowym standardem, zamiast być jedynie celem. Pojawia się 800G DCI — nowy standard połączeń centrów danych AI.

Rosnąca potrzeba połączeń DCI o przepustowości 800 G

Wyścig ku 800 G DCI jest napędzany zbieżnością wielu czynników. Po pierwsze, rozmiar modeli sztucznej inteligencji znacznie się zwiększył: liczba parametrów wzrosła od milionów do miliardów i trylionów. Rozprowadzanie tych modeli na wiele różnych modułów (podów) w różnych centrach danych wymaga ogromnej przepustowości do przesyłania danych między tymi centrami. Po drugie, rozproszone uczenie maszynowe obejmuje teraz moduły centrów danych rozlokowane na całym obszarze metropolitalnym, które tworzą jeden klaster obliczeniowy, a nie są już ograniczone do jednego budynku. Po trzecie, aplikacje działające w czasie rzeczywistym – takie jak wykrywanie oszustw czy systemy autonomiczne – wymagają zarówno ogromnej przepustowości, jak i spójnej, deterministycznie niskiej latencji. Wreszcie, trend w kierunku prywatnej infrastruktury AI powoduje ciągły wzrost łącznego obciążenia łączy międzymiastowych (interconnect). Tradycyjne technologie DCI o przepustowości 100 G i 200 G, choć nadal odpowiednie dla konwencjonalnych obciążeń, stają się wąskim gardłem w przypadku obciążeń AI. Technologia DCI o przepustowości 800 G odpowiada na potrzebę większej przepustowości, zapewniając przestrzeń na dalszy rozwój.

Ciśnienie związane z przepustowością w centrach danych AI

Charakter ruchu generowanego podczas uczenia sztucznej inteligencji powoduje nietypowo duże obciążenie łączy międzystrefowych w porównaniu do normalnych aplikacji. Podczas uczenia gradienty modelu muszą być synchronizowane pomiędzy wszystkimi uczestniczącymi węzłami obliczeniowymi na końcu każdej partii danych. Ten ruch typu all-reduce składa się z zsynchronizowanych impulsów ruchu, które mogą przeciążyć nawet łącza o bardzo dużej przepustowości. Dane mogą również być okresowo zapisywane (checkpointowane) w rozproszonym systemie przechowywania, co dodatkowo zwiększa obciążenie. Potoki przygotowania danych mogą stanowić stały strumień przesyłający dane między różnymi warstwami pamięci masowej a modułami obliczeniowymi. Gdy wszystkie trzy wydarzenia wystąpią jednocześnie, całkowite obciążenie łączy wzrasta wielokrotnie. Rozwiązanie 800G DCI radzi sobie z tymi obciążeniami, przesyłając cały impuls ruchu typu all-reduce przez łącze międzystrefowe przy użyciu pojedynczej długości fali bez konieczności buforowania. Zmniejszenie ciśnienia zwrotnego w łączu międzystrefowym umożliwia liniowe skalowanie zadania uczenia sztucznej inteligencji.

Niskie opóźnienie ma znaczenie dla usług AI

Przepustowość nie jest wystarczająca do rozwiązania problemu połączeń w sztucznej inteligencji — kluczowe jest również niskie opóźnienie. W całym centra danych , opóźnienie komunikacji wpływa na ogólną przepustowość procesu uczenia, ponieważ węzły obliczeniowe mogą być zmuszone do oczekiwania na swoje odpowiedniki w klastrze obliczeniowym, co prowadzi do marnowania cennych jednostek GPU. Wysokie opóźnienie może negatywnie wpłynąć na doświadczenie użytkownika korzystającego z usług AI, takich jak systemy autonomiczne, wykrywanie oszustw czy wnioskowanie w czasie rzeczywistym. Technologia 800G DCI zmniejsza opóźnienie dzięki szybszej szybkości transmisji symboli (co redukuje opóźnienie pakietów) oraz bardziej zaawansowanej korekcji błędów z wykorzystaniem kodów korekcyjnych (FEC). Ponadto ścieżki optyczne są bezpośrednie i unikają routerów, które dodatkowo opóźniają podróż pakietów. Bezpośrednie łączenie klastrów obliczeniowych AI za pomocą technologii 800G DCI pozwala zmniejszyć opóźnienie między centrami danych z milisekund do mikrosekund — umożliwiając rzeczywiście rozproszone uczenie maszynowe tak, jakby działało ono w ramach pojedynczego klastra obliczeniowego rozciągniętego na terenie całego kampusu.

Kluczowe korzyści wynikające z uaktualnienia do 800G DCI

800 g DCI ma przewagę na wielu płaszczyznach w porównaniu z niższymi prędkościami. Jego wydajność widmowa jest dwukrotnie większa niż 400G, co oznacza, że operatorzy mogą podwoić przepustowość w tej samej infrastrukturze światłowodowej. Zużycie energii również maleje, ponieważ 800G charakteryzuje się niższym zużyciem energii na przesłany bit w porównaniu do uruchomienia dwóch łączy 400G. Dzięki pojedynczemu interfejsowi gęstość portów w przełącznikach i routerach znacznie wzrasta, zwalniając pojemność na potrzeby połączeń obliczeniowych. Efektywność operacyjna poprawia się dzięki uproszczeniu zarządzania długościami fal. Nowe prędkości 800G zapewniają również przyszłościową odporność sieci, ponieważ obecne zapotrzebowanie można łatwo zaspokoić, a kolejna modernizacja połączeń międzymiastowych będzie wymagana dopiero po dłuższym czasie – w miarę jak ruch związany z sztuczną inteligencją rośnie o przewidywane 50% rocznie. Dla operatorów chmury i centrów danych obsługujących najemców wymagających dużych objętości transferu danych łącza międzymiastowe 800G oferują przewagę biznesową.

Elastyczna wdrożenie umożliwiające szybką ekspansję

Szybkość, z jaką wdrażane są systemy sztucznej inteligencji, oznacza, że warstwa połączeń międzymaszynowych może stać się utrudnieniem. Rozwiązania DCI o przepustowości 800G oferują elastyczne opcje wdrażania. W przypadku dłuższych odległości w sieci metropolitalnej systemy linii optycznych pozwalają na wydłużenie zasięgu transmisji przy jednoczesnym maksymalizowaniu przepustowości danych. Modułowe optyczne interfejsy 800G, pasujące do standardowych interfejsów przełączników, umożliwiają najbardziej szybkie wdrożenie – wystarczy włożyć, podłączyć i skonfigurować. Organizacje budujące nowe kampusy centrów danych mogą korzystać z dedykowanych platform DCI 800G, zapewniających większą kontrolę nad zarządzaniem oraz monitorowaniem wydajności. Uzupełniając te rozwiązania, urządzenie DCI-BOX firmy Sino-Telecom dostarcza ultra-kompaktowego, wstępnie zintegrowanego i opłacalnego rozwiązania DCI, zaprojektowanego specjalnie dla centrów danych brzegowych oraz szybkiego wdrażania usług. Obsługując przepustowość do 800G na kanał, urządzenie DCI-BOX minimalizuje zużycie przestrzeni i energii elektrycznej, umożliwiając wdrożenie typu plug-and-play. Niezależnie od tego, czy jest stosowane jako samodzielna jednostka w oddalonych punktach obecności (POP) czy jako element rozległej, siatkowej sieci, urządzenie DCI-BOX zapewnia skalowanie mocy obliczeniowej zgodne z popytem generowanym przez aplikacje AI, skracając czas wdrożenia z kilku dni do zaledwie kilku godzin. Niezależnie od scenariusza operacyjnego, rozwiązania DCI 800G można wdrożyć w ciągu kilku godzin zamiast kilku dni, co pozwala nadążyć za dynamicznym wzrostem i skalą infrastruktury AI.

Idealne opcje 800G dla operatorów usług internetowych i centrów danych

Różne organizacje mają unikalne wymagania dotyczące połączeń międzymiastowych 800G (DCI). Centra danych przeznaczone do szkolenia modeli sztucznej inteligencji, które skupiają się na skalowaniu mocy obliczeniowej, potrzebują wysokiej przepustowości i niskiej latencji, dlatego idealnym rozwiązaniem są połączenia międzymiastowe 800G typu punkt-punkt między klastrami. Operatorzy usług internetowych zapewniający połączenia międzysieciowe dla wielu klientów AI wymagają ścisłej izolacji długości fal, aby zapobiec wpływowi nagłych wzrostów ruchu jednego klienta na inne. Platformy DCI 800G konfigurowalne z wieloma transponderami umożliwiają operatorom usług internetowych indywidualne przypisywanie i rozliczanie długości fal. Każdy klient musi również zapewnić niezawodność działania, aby błędy bitowe nie powodowały ponownego uruchamiania zadań obliczeniowych od ostatniego punktu kontrolnego.

Gotowe rozwiązania 800G wspierające rozwój

Rozwiązania DCI 800G firmy Sino-Telecom są dostosowane do potrzeb połączeń międzymiastowych centrów danych wykorzystujących sztuczną inteligencję. Dla sieci o dłuższej odległości lub wielokrotnych przeskoków oferujemy platformy DCI zintegrowane z wzmacniaczami, kompensacją dyspersji oraz monitorowaniem kanałów. Nasze systemy umożliwiają bezprzerwowe dostosowywanie pojemności oraz zapewniają szczegółowe narzędzia diagnostyczne oraz jednolite interfejsy zarządzania. Posiadamy ponad 240 patentów oraz ponad 150 praw autorskich do oprogramowania i współpracujemy z sieciami w ponad 30 różnych krajach, w tym we Francji, Brazylii, Australii i Indonezji. Nasza oferta produktowa obejmuje również pełną gamę modułów optycznych typu plugable o przepustowości 200G, 400G i 800G, zapewniając kompleksowe rozwiązanie – od portu przełącznika do światłowodowej linii transmisyjnej.