dCI 800G per il collegamento tra data center per l'IA: larghezza di banda, latenza e distribuzione

Ogni componente della rete viene migliorato dall’intelligenza artificiale. I massicci job di training per modelli linguistici di grandi dimensioni, l’esecuzione di motori di inferenza distribuiti e la sincronizzazione di enormi quantità di dati tra cluster di computer impongono carichi senza precedenti sulle interconnessioni che collegano i data center. Il 100G non è più sufficiente per le workload AI e il 400G sta rapidamente diventando il nuovo standard minimo, anziché un obiettivo. Ecco l’800G DCI: il nuovo standard per l’interconnessione di data center AI.

La crescente necessità di 800G DCI

La corsa all’800G DCI è determinata da una convergenza di fattori. Innanzitutto, le dimensioni dei modelli di intelligenza artificiale sono notevolmente aumentate: i parametri sono passati da milioni a miliardi e trilioni. Distribuire tali modelli su numerosi pod distinti ubicati in diversi data center richiede una larghezza di banda enorme per il trasferimento di dati tra i data center. In secondo luogo, l’addestramento distribuito colloca attualmente i pod dei data center su un’intera area metropolitana all’interno dello stesso cluster di calcolo, anziché all’interno di un singolo edificio. In terzo luogo, applicazioni in tempo reale come il rilevamento delle frodi e i sistemi autonomi richiedono sia un throughput eccezionale sia una latenza bassa, costante e deterministica. Infine, con la tendenza verso infrastrutture private per l’IA, il carico cumulativo sui collegamenti di interconnessione continua ad aumentare. Le tradizionali tecnologie DCI da 100G e 200G, sebbene accettabili per carichi di lavoro convenzionali, diventano colli di bottiglia nei carichi di lavoro dell’IA. L’DCI da 800G soddisfa la necessità di larghezza di banda offrendo spazio per la crescita.

Pressione sulla larghezza di banda nei data center per l’IA

La natura del traffico di addestramento dell'IA esercita una pressione atipica sui collegamenti di interconnessione rispetto alle applicazioni normali. Durante l'addestramento, i gradienti del modello devono essere sincronizzati tra tutti i nodi di calcolo partecipanti alla fine di ogni batch. Questo traffico di tipo all-reduce consiste in raffiche sincronizzate di traffico che possono saturare anche collegamenti ad alta capacità. I dati possono inoltre essere salvati periodicamente (checkpointed) su archiviazione distribuita, aggiungendo ulteriore carico. Le pipeline di preparazione dei dati possono costituire un flusso continuo che sposta i dati tra livelli diversi di archiviazione e i pod di calcolo. Quando questi tre eventi si verificano simultaneamente, il carico aggregato sui collegamenti si moltiplica. L’800G DCI affronta queste sollecitazioni inviando un’intera raffica di tipo all-reduce attraverso l’interconnessione con una singola lunghezza d’onda, senza accodamento. Riducendo la backpressure attraverso l’interconnessione, è possibile ottenere una scalabilità lineare del compito di addestramento dell’IA.

La bassa latenza è fondamentale per i servizi di intelligenza artificiale

La larghezza di banda non è sufficiente a risolvere il problema dell’interconnessione per l’IA: anche la bassa latenza è fondamentale. In tutto centri di dati , la latenza della comunicazione influisce sul throughput complessivo dell’addestramento, poiché i nodi di calcolo potrebbero essere costretti ad attendere i loro pari nel cluster di calcolo, sprecando così preziose GPU. Una latenza elevata può compromettere l’esperienza utente nei servizi IA, come sistemi autonomi, rilevamento delle frodi e inferenza in tempo reale. L’800G DCI riduce la latenza grazie a una velocità di simbolo più elevata (riducendo la latenza dei pacchetti) e a una correzione degli errori in avanti più avanzata. Inoltre, i percorsi ottici sono diretti, evitando router che aggiungono ritardo al percorso del pacchetto. Quando si collegano direttamente i cluster di calcolo IA tramite 800G DCI, la latenza tra i data center può passare da millisecondi a microsecondi, consentendo effettivamente all’addestramento distribuito di comportarsi come un singolo cluster di calcolo distribuito su un campus.

Principali vantaggi dell’aggiornamento a 800G DCI

dCI da 800 g offre vantaggi su molti fronti rispetto a velocità inferiori. La sua efficienza spettrale è il doppio di quella del 400G, il che significa che gli operatori possono raddoppiare la capacità di trasferimento sui medesimi infrastrutture in fibra. Anche il consumo energetico diminuisce, poiché l’800G presenta un minore consumo energetico per bit trasmesso rispetto all’utilizzo di due collegamenti da 400G. Grazie a una singola interfaccia, la densità di porte su switch e router aumenta in modo significativo, liberando capacità per la connettività computazionale. L’efficienza operativa migliora semplificando la gestione delle lunghezze d’onda. Le nuove velocità 800G rendono inoltre le reti più resilienti nel tempo, poiché consentono di soddisfare facilmente la domanda attuale e ritardano la necessità di aggiornare nuovamente gli interconnessioni man mano che il traffico AI aumenta, secondo le stime, del 50% annuo. Per gli operatori di cloud e data center che gestiscono tenant con elevati requisiti di trasferimento dati, l’800G DCI offre un vantaggio commerciale.

Deployments flessibile per un’espansione rapida

La velocità con cui i sistemi AI vengono implementati significa che il livello di interconnessione può diventare un collo di bottiglia. L’interconnessione dati a 800G (DCI) offre opzioni flessibili di distribuzione. Per coprire distanze maggiori all’interno della rete metropolitana, i sistemi ottici di linea sono in grado di estendere la distanza di trasmissione massimizzando contemporaneamente il tasso di trasferimento dati. Le ottiche plug-in a 800G, compatibili con le interfacce standard degli switch, consentono la distribuzione più rapida: basta inserirle, collegarle e configurarle. Le organizzazioni che stanno realizzando nuovi campus di data center possono sfruttare piattaforme DCI a 800G appositamente progettate, ottenendo un maggiore controllo sulla gestione e sul monitoraggio delle prestazioni. A completamento di queste soluzioni, il dispositivo DCI-BOX di Sino-Telecom offre una soluzione DCI ultra-compatta, pre-integrata ed economica, specificamente progettata per i data center perimetrali e per il lancio rapido di servizi. Con supporto fino a 800G per canale, il DCI-BOX riduce al minimo l’ingombro fisico e il consumo energetico, consentendo al contempo una distribuzione “plug-and-play”. Che venga utilizzato come unità autonoma in punti di presenza remoti (POP) o come parte di una rete a maglia più ampia, il DCI-BOX garantisce che la scalabilità della capacità proceda di pari passo con la domanda generata dall’IA, riducendo i tempi di distribuzione da giorni a sole ore. Indipendentemente dallo scenario operativo, la DCI a 800G può essere distribuita in ore anziché in giorni, mantenendo il passo con la crescita e la scala dell’infrastruttura AI.

Opzioni Ideal 800G per ISP e data center

Diverse organizzazioni hanno requisiti specifici per il collegamento inter-data center (DCI) a 800G. I data center dedicati all’addestramento di modelli di intelligenza artificiale, focalizzati sull’espansione delle proprie capacità di calcolo, necessitano di un’alta velocità di trasferimento dati e di una bassa latenza; pertanto, i collegamenti DCI punto-punto a 800G tra cluster sono ideali. Gli operatori di servizi Internet (ISP) che forniscono interconnessione a più client AI richiedono un’isolazione rigorosa delle lunghezze d’onda per evitare che picchi di traffico generati da un cliente influenzino gli altri. Le piattaforme DCI a 800G configurabili con più transponder consentono agli ISP di assegnare e fatturare le lunghezze d’onda in modo individuale. Ogni cliente deve inoltre garantire un’elevata affidabilità, affinché gli errori di bit non costringano i processi di calcolo a riavviarsi dall’ultimo punto di controllo.

Soluzioni pronte all’uso a 800G per la crescita

Le soluzioni DCI a 800G di Sino-Telecom sono progettati su misura per le esigenze di interconnessione dei data center per l'intelligenza artificiale. Per reti a lunga distanza o con più salti offriamo piattaforme DCI integrate con amplificazione, compensazione della dispersione e monitoraggio dei canali. I nostri sistemi offrono regolazione della capacità senza interruzioni e strumenti diagnostici dettagliati, nonché interfacce unificate per la gestione. Deteniamo oltre 240 brevetti e più di 150 copyright software e collaboriamo con reti in oltre 30 paesi diversi, tra cui Francia, Brasile, Australia e Indonesia. Il nostro portafoglio prodotti include inoltre un'intera gamma di ottiche inseribili da 200G, 400G e 800G per una soluzione completa dalla porta dello switch alla linea in fibra ottica.