EN
Setiap bagian jaringan sedang ditingkatkan oleh kecerdasan buatan. Pekerjaan pelatihan masif untuk model bahasa besar, pengoperasian mesin inferensi terdistribusi, serta sinkronisasi jumlah data sangat besar di seluruh klaster komputer memberikan beban belum pernah terjadi sebelumnya pada interkoneksi yang menghubungkan pusat data. Kecepatan 100G kini tidak lagi memadai untuk beban kerja AI, sementara 400G dengan cepat menjadi standar dasar, bukan lagi target. Hadir 800G DCI—standar baru untuk interkoneksi pusat data AI.
Kebutuhan Meningkat akan 800G DCI
Perlombaan Menuju 800G DCI sedang didorong oleh sejumlah faktor. Pertama, ukuran model AI telah meningkat pesat. Jumlah parameter telah berkembang dari jutaan menjadi miliaran dan bahkan triliunan. Penyebaran model-model tersebut ke berbagai *pod* yang berbeda di pusat data yang berbeda memerlukan bandwidth sangat besar untuk mengalir antar pusat data. Kedua, pelatihan terdistribusi kini menempatkan *pod*-pod pusat data di seluruh wilayah metropolitan ke dalam satu kluster komputasi yang sama, bukan hanya dalam satu gedung. Ketiga, aplikasi waktu nyata seperti deteksi penipuan dan sistem otonom memerlukan throughput luar biasa tinggi serta latensi rendah yang konsisten dan deterministik. Terakhir, dengan tren menuju infrastruktur AI privat, beban kumulatif pada tautan interkoneksi terus meningkat. Teknologi DCI tradisional 100G dan 200G, meskipun memadai untuk beban kerja konvensional, menjadi bottleneck dalam beban kerja AI. DCI 800G memenuhi kebutuhan bandwidth dengan menyediakan ruang untuk pertumbuhan.
Tekanan Bandwidth di Pusat Data AI
Sifat lalu lintas pelatihan AI memberikan beban yang tidak biasa pada tautan interkoneksi dibandingkan aplikasi biasa. Selama pelatihan, gradien model harus disinkronkan di seluruh simpul komputasi yang berpartisipasi pada akhir setiap batch. Lalu lintas all-reduce ini terdiri dari ledakan lalu lintas terkonsolidasi yang berpotensi memenuhi bahkan tautan berkapasitas tinggi sekalipun. Data juga dapat disimpan sementara (checkpointed) ke penyimpanan terdistribusi pada interval tertentu, sehingga menambah beban. Jalur persiapan data dapat berupa aliran konstan yang memindahkan data antar tingkat penyimpanan dan unit komputasi (compute pods). Ketika ketiga peristiwa ini terjadi secara bersamaan, beban agregat pada tautan menjadi berlipat ganda. 800G DCI mengatasi tekanan ini dengan mengirimkan seluruh ledakan all-reduce melalui tautan interkoneksi menggunakan satu panjang gelombang tanpa antrian. Pengurangan backpressure melalui interkoneksi memungkinkan penskalaan linear (linear scale-out) pekerjaan pelatihan AI.
Latensi Rendah Penting bagi Layanan AI
Lebar pita tidak cukup untuk menyelesaikan masalah interkoneksi AI—latensi rendah juga sangat penting. Di seluruh pusat Data , latensi komunikasi memengaruhi throughput pelatihan keseluruhan karena node komputasi mungkin terpaksa menunggu rekan-rekannya dalam kluster komputasi, sehingga mengakibatkan pemborosan GPU yang berharga. Latensi tinggi dapat menyebabkan pengalaman pengguna yang buruk untuk layanan AI seperti sistem otonom, deteksi penipuan, dan inferensi waktu nyata. 800G DCI mengurangi latensi melalui laju simbol yang lebih cepat (mengurangi latensi paket) serta koreksi kesalahan maju (forward error correction) yang lebih canggih. Selain itu, jalur optik bersifat langsung, sehingga menghindari router yang menambah delay dalam perjalanan paket. Ketika menghubungkan kluster komputasi AI secara langsung melalui 800G DCI, latensi antar pusat data dapat dikurangi dari milidetik menjadi mikrodetik—benar-benar memungkinkan pelatihan terdistribusi beroperasi seperti satu kluster komputasi tunggal yang tersebar di seluruh kampus.
Manfaat Utama Peningkatan 800G DCI
800 g DCI memiliki keunggulan di banyak aspek dibandingkan kecepatan yang lebih rendah. Efisiensi spektralnya dua kali lipat dibandingkan 400G, artinya operator dapat menggandakan throughput pada infrastruktur serat optik yang sama. Konsumsi daya juga berkurang karena 800G memiliki konsumsi energi per bit yang dikirimkan lebih rendah dibandingkan menjalankan dua tautan 400G. Dengan satu antarmuka, kepadatan port pada switch dan router juga meningkat secara signifikan, sehingga membebaskan kapasitas untuk koneksi komputasi. Efisiensi operasional meningkat melalui penyederhanaan manajemen panjang gelombang. Kecepatan 800G baru ini juga membuat jaringan siap untuk masa depan karena permintaan saat ini dapat dengan mudah dipenuhi dan diperkirakan akan membutuhkan waktu lebih lama sebelum operator perlu lagi meng-upgrade interkoneksi mereka seiring peningkatan lalu lintas AI yang diperkirakan mencapai 50% setiap tahunnya. Bagi operator cloud dan pusat data yang mengelola penyewa yang membutuhkan transfer data dalam jumlah besar, DCI 800G memberikan keuntungan bisnis.
Penyebaran Fleksibel untuk Ekspansi Cepat
Kecepatan penerapan sistem AI berarti lapisan interkoneksi dapat menjadi penghambat. DCI 800G menawarkan opsi penyebaran yang fleksibel. Untuk jangkauan lebih jauh dalam jaringan metro, sistem jalur optik mampu memperpanjang jarak transmisi sekaligus memaksimalkan laju data. Optik 800G yang dapat dipasang (pluggable) dan kompatibel dengan antarmuka switch standar menawarkan penyebaran tercepat—cukup pasang, sambungkan, dan konfigurasikan. Organisasi yang membangun kampus pusat data baru dapat memanfaatkan platform DCI 800G khusus yang memberikan kendali lebih besar atas manajemen serta pemantauan kinerja. Sebagai pelengkap solusi ini, perangkat DCI-BOX dari Sino-Telecom menghadirkan solusi DCI yang sangat ringkas, telah terintegrasi secara pra-instal, dan hemat biaya, yang dirancang khusus untuk pusat data tepi (edge data centers) serta peluncuran layanan yang cepat. Mendukung hingga 800G per saluran, DCI-BOX meminimalkan penggunaan ruang dan konsumsi daya sekaligus memungkinkan penyebaran plug-and-play. Baik digunakan sebagai unit mandiri di POP jarak jauh maupun sebagai bagian dari jaringan mesh yang lebih luas, DCI-BOX memastikan penskalaan kapasitas selaras dengan permintaan berbasis AI, sehingga mengurangi waktu penyebaran dari hari menjadi hanya beberapa jam. Terlepas dari skenario operasionalnya, DCI 800G dapat disebar dalam hitungan jam, bukan hari, sehingga tetap selaras dengan pertumbuhan dan skala infrastruktur AI.
Opsi Ideal 800G untuk ISP dan Pusat Data
Organisasi yang berbeda memiliki kebutuhan unik terhadap DCI 800G. Pusat data pelatihan AI yang berfokus pada peningkatan kebutuhan komputasinya memerlukan throughput tinggi dan latensi rendah, sehingga DCI 800G point-to-point antar-kelompok sangat ideal. Penyedia layanan internet (ISP) yang menyediakan interkoneksi bagi banyak klien AI memerlukan isolasi panjang gelombang yang ketat guna mencegah lonjakan lalu lintas dari satu klien memengaruhi klien lainnya. Platform DCI 800G yang dapat dikonfigurasi dengan berbagai transponder memungkinkan ISP menetapkan dan menagih panjang gelombang secara terpisah. Setiap pelanggan juga perlu memastikan keandalan agar kesalahan bit tidak memaksa pekerjaan komputasi dijalankan ulang dari titik pemeriksaan terakhir.
Solusi 800G Siap Pakai untuk Pertumbuhan
Solusi DCI 800G Sino-Telecom dirancang khusus untuk memenuhi kebutuhan interkoneksi pusat data AI. Untuk jaringan jarak jauh atau jaringan dengan beberapa hop, kami menawarkan platform DCI yang terintegrasi dengan penguatan, kompensasi dispersi, dan pemantauan saluran. Sistem kami menawarkan penyesuaian kapasitas tanpa gangguan (hitless) serta alat diagnostik terperinci dan antarmuka manajemen terpadu. Kami memiliki lebih dari 240 paten dan lebih dari 150 hak cipta perangkat lunak, serta bekerja sama dengan jaringan di lebih dari 30 negara berbeda, termasuk Prancis, Brasil, Australia, dan Indonesia. Portofolio produk kami juga mencakup rangkaian lengkap optik plug-in 200G, 400G, dan 800G guna menyediakan solusi komprehensif mulai dari port switch hingga jalur serat optik.