800G DCI за интерконекция на центрове за обработка на данни, използвани за изкуствен интелект: пропускана способност, забавяне и инсталация

Всеки елемент от мрежата се подобрява чрез изкуствен интелект. Масивните задачи за обучение на големи езикови модели, изпълнението на разпределени двигатели за извличане на заключения и синхронизирането на огромни обеми данни между кластери от компютри оказват безпрецедентно натоварване върху междудатацентровите връзки. 100G вече не е достатъчно за работните натоварвания за изкуствен интелект, а 400G бързо става новият стандарт, а не целта. Появява се 800G DCI — новият стандарт за междудатацентрово свързване в центрове за обработка на данни за изкуствен интелект.

Растящата нужда от 800G DCI

Гонитбата към 800G ДЦИ се дължи на съвкупност от фактори. Първо, размерът на моделите за изкуствен интелект се е увеличил значително. Броят на параметрите е нараснал от милиони до милиарди и трилиони. Разпространяването на тези модели в множество различни модула в различни центрове за обработка на данни изисква огромна пропускателна способност за предаване между центровете за обработка на данни. Второ, разпределеното обучение сега разполага модулите на центровете за обработка на данни по цяла метрополитенска зона в рамките на един и същ изчислителен кластър, а не в рамките на една сграда. Трето, приложенията в реално време, като например откриване на измами и автономни системи, изискват както изключително висока пропускателна способност, така и последователно, детерминистично ниско забавяне. Накрая, поради тенденцията към частна инфраструктура за изкуствен интелект, натоварването върху връзките за взаимно свързване продължава да нараства. Традиционните технологии за DCI с пропускателна способност 100G и 200G, макар и подходящи за обикновени работни натоварвания, стават бутleneck („бутълнек“) при работни натоварвания, свързани с изкуствен интелект. 800G DCI отговаря на нуждата от по-голяма пропускателна способност, като осигурява пространство за развитие.

Налягане върху пропускателната способност в центровете за обработка на данни за изкуствен интелект

Характерът на трафика при обучение на изкуствен интелект оказва необичайно голямо натоварване върху междусвързващите връзки в сравнение с обикновените приложения. По време на обучението градиентите на модела трябва да се синхронизират между всички участващи изчислителни възли в края на всяка партида. Този трафик от операцията „all-reduce“ се състои от синхронизирани импулсни потоци, които могат да претоварят дори връзките с висока пропускливост. Данните също могат да се записват периодично в разпределена памет, което добавя допълнително натоварване. Пайплайните за подготвяне на данни представляват постоянен поток, който премества данни между различните нива на памет и изчислителните модули. Когато трите събития се случат едновременно, сумарното натоварване върху връзките се умножава. 800G DCI решава тези проблеми, като изпраща целия импулсен трафик от операцията „all-reduce“ през междусвързващата връзка чрез единична дължина на вълната без буферизиране. Намаляването на обратното налягане през междусвързващата връзка позволява линейно мащабиране на задачата за обучение на изкуствен интелект.

Ниската латентност е от значение за услугите, базирани на изкуствен интелект

Пропускателната способност не е достатъчна за решаване на проблема с връзката за изкуствен интелект – ниската латентност също е от съществено значение. В цялата датови Центрове , латентността при комуникацията влияе върху общата производителност при обучение, тъй като изчислителните възли може да бъдат принудени да чакат своите колеги в изчислителния кластър, което води до загуба на ценни GPU-устройства. Високата латентност може да доведе до лошо потребителско изживяване при услуги, базирани на изкуствен интелект, като автономни системи, откриване на измама и инференция в реално време. 800G DCI намалява латентността чрез по-висока скорост на символа (което намалява латентността на пакетите) и по-съвършена корекция на грешки в напреднал режим. Освен това оптическите пътища са директни и избягват маршрутизатори, които добавят забавяне към пътуването на пакетите. При директно свързване на AI изчислителни кластъри чрез 800G DCI латентността между центровете за обработка на данни може да се намали от милисекунди до микросекунди – което наистина позволява разпределеното обучение да функционира като единичен изчислителен кластър, разположен по целия кампус.

Основни предимства от модернизацията до 800G DCI

800 g DCI има предимство по много параметри в сравнение с по-ниските скорости. Спектралната му ефективност е два пъти по-висока от тази на 400G, което означава, че операторите могат да удвоят пропускателната способност върху същата фиброва инфраструктура. Потреблението на енергия също намалява, тъй като 800G има по-ниско енергийно потребление на предаден бит в сравнение с използването на два 400G канала. Благодарение на единичен интерфейс плътността на портовете в комутаторите и маршрутизаторите също значително се увеличава, освобождавайки капацитет за връзки към изчислителни ресурси. Операционната ефективност се подобрява чрез опростяване на управлението на дължините на вълните. Новите скорости от 800G също осигуряват бъдеща устойчивост на мрежите, тъй като текущият спрос лесно се задоволява и ще мине по-дълго време, преди операторите да се нуждаят от нова модернизация на своите междусервизни връзки, докато трафикът, свързан с изкуствения интелект, се увеличава с очаквани 50 % годишно. За облачните и центровете за обработка на данни, които управляват наематели с големи изисквания за прехвърляне на данни, 800G DCI предлага бизнес предимство.

Гъвкаво развертване за бързо разширяване

Скоростта, с която се разграждат системите на изкуствения интелект, означава, че междинният слой за свързване може да стане препятствие. 800G DCI предлага гъвкави възможности за разграждане. За по-дълги разстояния в метрополитенската мрежа оптическите линейни системи са способни да удължат разстоянието на предаване, като едновременно максимизират скоростта на предаване на данни. 800G плъгъбъл оптични модули, които се побират в стандартните интерфейси на комутаторите, осигуряват най-бързото разграждане — просто вмъкнете, свържете и конфигурирайте. Организациите, които строят нови комплекси от центрове за обработка на данни, могат да използват специално проектирани платформи 800G DCI с по-голям контрол върху управлението и мониторинга на производителността. В допълнение към тези решения устройството DCI-BOX на Sino-Telecom предоставя ултра-компактно, предварително интегрирано и икономично решение за DCI, адаптирано за периферни центрове за обработка на данни и бързо внедряване на услуги. Поддържащо до 800G на канал, DCI-BOX минимизира заеманото пространство и енергийното потребление, като позволява разграждане по принципа „plug-and-play“. Независимо дали се използва като самостоятелно устройство в отдалечени POP-ове или като част от по-голяма мрежа с меш-топология, DCI-BOX гарантира, че мащабирането на капацитета върви в крак с търсенето, задвижено от изкуствения интелект, и намалява времето за разграждане от дни до само часове. Независимо от оперативния сценарий, 800G DCI може да бъде разградена за часове, а не за дни, което позволява да се поддържа темпото на растежа и мащаба на ИИ инфраструктурата.

Идеални опции за 800G за доставчици на интернет услуги (ISPs) и центрове за обработка на данни (DCs)

Различните организации имат уникални изисквания към 800G DCI. Центровете за обработка на данни, фокусирани върху изкуствен интелект (AI), които се стремят да увеличат изчислителните си мощности, имат нужда от висока пропускливост и ниско забавяне, поради което точка-до-точка 800G DCI между кластери е идеално решение. Доставчиците на интернет услуги (ISPs), които осигуряват междусвързаност за множество клиенти, използващи AI, изискват строго разделяне по дължини на вълната, за да се предотврати влиянието на върховете в трафика от един клиент върху други. Платформите за 800G DCI, които могат да се конфигурират с множество транспондери, позволяват на доставчиците на интернет услуги (ISPs) да разпределят и фактурират дължините на вълната отделно. Всеки клиент също трябва да гарантира надеждност, за да се избегнат битови грешки, които биха принудили изчислителните задачи да започнат отново от последната точка на възстановяване.

Готови решения за 800G за растеж

Решенията за 800G DCI на Sino-Telecom са адаптирани към нуждите на междусервизната връзка на центровете за обработка на данни, използващи изкуствен интелект. За мрежи с по-голямо разстояние или множество прехода предлагаме платформи за междусервизна връзка (DCI), интегрирани с усилване, компенсация на дисперсията и мониторинг на канали. Нашите системи осигуряват безпроблемна корекция на капацитета и подробни диагностични инструменти, както и унифицирани интерфейси за управление. Притежаваме над 240 патента и над 150 софтуерни авторски права и работим с мрежи в повече от 30 различни страни, включително Франция, Бразилия, Австралия и Индонезия. Портфолиото ни от продукти включва пълен набор от заменяеми оптични модули с пропускана способност 200G, 400G и 800G, което осигурява комплексно решение – от порта на комутатора до оптичното влакно.