800G DCI для межцентрового соединения ИИ-дата-центров: пропускная способность, задержка и развертывание

Каждая часть сети улучшается за счет искусственного интеллекта. Массивные задачи обучения крупных языковых моделей, выполнение распределённых систем вывода и синхронизация огромных объёмов данных между кластерами компьютеров создают беспрецедентную нагрузку на межцентровые соединения. Скорость 100G уже недостаточна для рабочих нагрузок ИИ, а 400G быстро становится новым базовым уровнем вместо целевого показателя. Появляется 800G DCI — новый стандарт межцентрового соединения ИИ-дата-центров.

Растущая потребность в технологиях межцентрового взаимодействия (DCI) на 800 Гбит/с

Гонка за 800 Гбит/с DCI обусловлена совокупностью факторов. Во-первых, размер моделей ИИ стремительно увеличился: количество параметров выросло с миллионов до миллиардов и триллионов. Распределение таких моделей по множеству различных модулей в разных центрах обработки данных требует огромной пропускной способности для передачи данных между ЦОД. Во-вторых, при распределённом обучении модули ЦОД размещаются по всей городской агломерации в рамках одного вычислительного кластера, а не в пределах одного здания. В-третьих, приложения в реальном времени — например, системы обнаружения мошенничества и автономные системы — требуют как чрезвычайно высокой пропускной способности, так и стабильной, детерминированной низкой задержки. Наконец, с ростом популярности частной инфраструктуры ИИ совокупная нагрузка на соединительные линии продолжает возрастать. Традиционные технологии DCI на 100 Гбит/с и 200 Гбит/с, хотя и достаточны для обычных рабочих нагрузок, становятся узким местом при выполнении задач ИИ. Решение DCI на 800 Гбит/с отвечает потребности в пропускной способности, обеспечивая необходимый запас для масштабирования.

Давление на пропускную способность в ЦОД, ориентированных на ИИ

Характер трафика, связанного с обучением ИИ, создаёт необычно высокую нагрузку на межсоединительные каналы по сравнению с обычными приложениями. Во время обучения градиенты модели должны синхронизироваться между всеми участвующими вычислительными узлами в конце каждой партии данных. Этот трафик all-reduce представляет собой синхронизированные всплески трафика, способные перегрузить даже каналы высокой пропускной способности. Кроме того, данные могут периодически сохраняться (checkpointing) в распределённое хранилище, что также увеличивает нагрузку. Конвейеры подготовки данных могут представлять собой постоянный поток, перемещающий данные между уровнями хранилища и вычислительными модулями. Когда все три события происходят одновременно, совокупная нагрузка на каналы многократно возрастает. Решение 800G DCI справляется с этими нагрузками, передавая весь всплеск трафика all-reduce через межсоединительный канал с использованием одной длины волны без буферизации в очереди. Снижение обратного давления через межсоединительный канал обеспечивает линейное масштабирование задачи обучения ИИ.

Низкая задержка имеет решающее значение для сервисов ИИ

Пропускная способность недостаточна для решения проблемы межсоединения ИИ — критически важна также низкая задержка. В рамках дата-центры , задержка передачи данных влияет на общую пропускную способность обучения, поскольку вычислительные узлы могут быть вынуждены ожидать своих одноранговых узлов в вычислительном кластере, что приводит к простаиванию ценных GPU. Высокая задержка может ухудшить пользовательский опыт при использовании ИИ-сервисов, таких как автономные системы, обнаружение мошенничества и вывод в режиме реального времени. 800G DCI снижает задержку за счёт более высокой скорости передачи символов (снижая задержку пакетов) и применения более совершенных алгоритмов коррекции ошибок с опережением. Кроме того, оптические пути являются прямыми и позволяют избежать маршрутизаторов, которые добавляют задержку к прохождению пакета. При прямом соединении ИИ-вычислительных кластеров по технологии 800G DCI задержка между центрами обработки данных может быть снижена с миллисекунд до микросекунд — что действительно позволяет распределённому обучению функционировать как единый вычислительный кластер, размещённый на территории одного кампуса.

Ключевые преимущества модернизации до 800G DCI

800 г DCI имеет преимущество по многим направлениям по сравнению с более низкими скоростями. Его спектральная эффективность вдвое выше, чем у 400G, что означает, что операторы могут удвоить пропускную способность на той же волоконно-оптической инфраструктуре. Потребление энергии также снижается, поскольку 800G обеспечивает меньшее энергопотребление на передаваемый бит по сравнению с работой двух каналов 400G. Благодаря одному интерфейсу плотность портов на коммутаторах и маршрутизаторах значительно возрастает, высвобождая ресурсы для подключения вычислительных систем. Эффективность эксплуатации повышается за счет упрощения управления длинами волн. Новые скорости 800G также обеспечивают будущую совместимость сетей, поскольку текущие потребности легко удовлетворяются, а до следующего обновления межсетевых соединений операторам придется ждать дольше — ведь трафик ИИ, как ожидается, будет ежегодно увеличиваться на 50%. Для облачных провайдеров и операторов центров обработки данных, обслуживающих арендаторов с большими объемами передачи данных, технология 800G DCI предоставляет конкурентное бизнес-преимущество.

Гибкое развертывание для быстрого масштабирования

Темпы развертывания систем искусственного интеллекта настолько высоки, что межсоединительный уровень может стать узким местом. Решение DCI на 800 Гбит/с обеспечивает гибкие варианты развертывания. Для увеличения дальности связи в городской сети оптические линейные системы способны расширять расстояние передачи, одновременно максимизируя пропускную способность. Съемные оптические модули на 800 Гбит/с, совместимые со стандартными интерфейсами коммутаторов, обеспечивают максимально быстрое развертывание — просто вставьте модуль, подключите его и выполните настройку. Организации, строящие новые кампусы центров обработки данных, могут использовать специализированные платформы DCI на 800 Гбит/с, получая более высокий уровень контроля над управлением и мониторингом производительности. В дополнение к этим решениям устройство DCI-BOX от компании Sino-Telecom представляет собой сверхкомпактное, предварительно интегрированное и экономически эффективное решение DCI, специально разработанное для периферийных центров обработки данных и оперативного запуска услуг. Поддерживая до 800 Гбит/с на канал, устройство DCI-BOX минимизирует занимаемое пространство и энергопотребление, обеспечивая развертывание по принципу «подключи и работай». Независимо от того, используется ли оно как автономное устройство в удаленных точках присутствия (POP) или как часть более крупной сетевой структуры типа «mesh», DCI-BOX гарантирует, что масштабирование мощностей будет соответствовать растущему спросу, обусловленному развитием ИИ, сокращая время развертывания с нескольких дней до нескольких часов. Независимо от сценария эксплуатации, решение DCI на 800 Гбит/с может быть развернуто за часы, а не за дни, обеспечивая соответствие темпам роста и масштабирования инфраструктуры ИИ.

Идеальные варианты 800G для операторов связи и ЦОД

Различные организации предъявляют уникальные требования к технологиям 800G для межцентрового взаимодействия (DCI). Центры обработки данных для обучения ИИ, ориентированные на масштабирование вычислительных мощностей, нуждаются в высокой пропускной способности и низкой задержке, поэтому для них оптимальны точечные соединения 800G DCI между кластерами. Операторы связи, предоставляющие услуги межсоединения нескольким клиентам ИИ, требуют строгой изоляции длин волн, чтобы всплески трафика от одного клиента не влияли на других. Платформы 800G DCI с возможностью конфигурирования нескольких трансpondеров позволяют операторам связи назначать и выставлять счета за длины волн по отдельности. Все заказчики также должны обеспечить надёжность, чтобы ошибки передачи битов не приводили к перезапуску вычислительных задач с последней контрольной точки.

Готовые решения 800G для роста

Решения Sino-Telecom для межцентрового взаимодействия 800G адаптированы под потребности межсоединения центров обработки данных с ИИ. Для сетей с большой дальностью передачи или с несколькими промежуточными узлами мы предлагаем платформы для межцентрового взаимодействия (DCI), интегрированные с усилением, компенсацией дисперсии и мониторингом каналов. Наши системы обеспечивают бесперебойную коррекцию ёмкости и подробные диагностические инструменты, а также унифицированные интерфейсы управления. Мы владеем более чем 240 патентами и более чем 150 авторскими правами на программное обеспечение и работаем с сетями в более чем 30 странах, включая Францию, Бразилию, Австралию и Индонезию. В нашем ассортименте продукции также представлен полный набор сменных оптических модулей на 200 Гбит/с, 400 Гбит/с и 800 Гбит/с, что обеспечивает комплексное решение — от порта коммутатора до оптоволоконной линии.