dCI ความเร็ว 800G สำหรับการเชื่อมต่อศูนย์ข้อมูลแบบ AI: แบนด์วิดท์ ความหน่วง และการติดตั้ง

ทุกส่วนของเครือข่ายกำลังได้รับการปรับปรุงด้วยปัญญาประดิษฐ์ งานฝึกอบรมโมเดลภาษาขนาดใหญ่ที่มีขนาดมหาศาล การรันเอนจินการอนุมานแบบกระจาย และการซิงค์ข้อมูลจำนวนมหาศาลข้ามคลัสเตอร์ของคอมพิวเตอร์ ล้วนสร้างภาระงานที่ไม่เคยมีมาก่อนต่อระบบเชื่อมต่อระหว่างศูนย์ข้อมูล ความเร็ว 100G ไม่เพียงพออีกต่อไปสำหรับภาระงาน AI ในขณะที่ความเร็ว 400G กำลังกลายเป็นมาตรฐานใหม่แทนที่จะเป็นเป้าหมายที่ต้องการ นี่คือ 800G DCI — มาตรฐานใหม่สำหรับการเชื่อมต่อศูนย์ข้อมูล AI

ความต้องการ 800G DCI ที่เพิ่มสูงขึ้น

การแข่งขันสู่ความเร็ว 800G DCI เกิดขึ้นจากปัจจัยหลายประการร่วมกัน ประการแรก ขนาดของโมเดลปัญญาประดิษฐ์ (AI) มีการขยายตัวอย่างมาก จำนวนพารามิเตอร์เพิ่มขึ้นจากหลักล้านเป็นหลักพันล้านและหลักล้านล้าน การกระจายโมเดลเหล่านี้ไปยังพ็อดต่าง ๆ ที่ตั้งอยู่ในศูนย์ข้อมูลหลายแห่งนั้นต้องอาศัยแบนด์วิดท์สูงมากในการส่งผ่านข้อมูลระหว่างศูนย์ข้อมูล ประการที่สอง การฝึกโมเดลแบบกระจาย (distributed training) ปัจจุบันจัดวางพ็อดของศูนย์ข้อมูลให้ครอบคลุมพื้นที่มหานครทั้งหมดภายในคลัสเตอร์การประมวลผลเดียวกัน แทนที่จะอยู่ภายในอาคารเดียวกัน ประการที่สาม แอปพลิเคชันแบบเรียลไทม์ เช่น การตรวจจับการฉ้อโกงและระบบอัตโนมัติ จำเป็นต้องมีทั้งความสามารถในการประมวลผลสูงมากและเวลาแฝงต่ำที่สม่ำเสมอและคาดการณ์ได้ ประการสุดท้าย ด้วยแนวโน้มการสร้างโครงสร้างพื้นฐานปัญญาประดิษฐ์แบบส่วนตัว (private AI infrastructure) ภาระรวมที่ตกอยู่กับลิงก์การเชื่อมต่อระหว่างศูนย์ข้อมูลจึงยังคงเพิ่มขึ้นอย่างต่อเนื่อง เทคโนโลยี DCI แบบ 100G และ 200G แบบดั้งเดิม ซึ่งอาจเพียงพอสำหรับเวิร์กโหลดทั่วไป กลับกลายเป็นคอขวดเมื่อนำมาใช้กับเวิร์กโหลดด้านปัญญาประดิษฐ์ ขณะที่เทคโนโลยี DCI แบบ 800G สามารถตอบสนองความต้องการแบนด์วิดท์ได้ โดยให้พื้นที่เพียงพอสำหรับการเติบโตในอนาคต

แรงกดดันด้านแบนด์วิดท์ในศูนย์ข้อมูลสำหรับงานปัญญาประดิษฐ์

ลักษณะของการรับส่งข้อมูลในการฝึกอบรมระบบปัญญาประดิษฐ์ (AI) ก่อให้เกิดภาระที่ผิดปกติอย่างมากต่อการเชื่อมต่อระหว่างอุปกรณ์ เมื่อเปรียบเทียบกับแอปพลิเคชันทั่วไป ในการฝึกอบรม ค่าเกรเดียนต์ของโมเดลจำเป็นต้องถูกซิงค์กับโหนดการประมวลผลทั้งหมดที่เข้าร่วมในแต่ละแบตช์ ซึ่งปริมาณข้อมูลแบบ all-reduce นี้ประกอบด้วยช่วงเวลาที่มีการรับส่งข้อมูลแบบซิงโครไนซ์อย่างหนาแน่น ซึ่งอาจทำให้ลิงก์ความจุสูงถึงขีดจำกัดได้ ข้อมูลยังสามารถบันทึกสำรอง (checkpoint) ไปยังระบบจัดเก็บข้อมูลแบบกระจายได้เป็นระยะๆ ซึ่งเพิ่มภาระการใช้งานอีกด้วย ท่อส่งข้อมูลสำหรับการเตรียมข้อมูล (data preparation pipelines) อาจทำงานอย่างต่อเนื่อง โดยย้ายข้อมูลระหว่างชั้นเก็บข้อมูลต่างๆ และคลัสเตอร์การประมวลผล (compute pods) เมื่อเหตุการณ์ทั้งสามนี้เกิดขึ้นพร้อมกัน ภาระรวมบนลิงก์จะเพิ่มขึ้นหลายเท่า โซลูชัน 800G DCI จัดการกับความเครียดเหล่านี้โดยการส่งชุดข้อมูล all-reduce ทั้งหมดผ่านการเชื่อมต่อระหว่างอุปกรณ์ด้วยคลื่นแสงเดียวโดยไม่ต้องจัดคิว การลดแรงดันย้อนกลับ (backpressure) ผ่านการเชื่อมต่อระหว่างอุปกรณ์ช่วยให้งานฝึกอบรม AI สามารถปรับขนาดแบบเชิงเส้นได้อย่างมีประสิทธิภาพ

ความหน่วงต่ำมีความสำคัญต่อบริการปัญญาประดิษฐ์

แบนด์วิดท์ไม่เพียงพอที่จะแก้ปัญหาการเชื่อมต่อระหว่างระบบปัญญาประดิษฐ์ (AI) ได้ — ความหน่วงเวลาต่ำก็มีความสำคัญเช่นกัน ศูนย์ข้อมูล ความหน่วงเวลาในการสื่อสารส่งผลต่ออัตราการฝึกอบรมโดยรวม เนื่องจากโหนดการประมวลผลอาจต้องรอคอยโหนดอื่นในคลัสเตอร์การประมวลผล ส่งผลให้หน่วยประมวลผลกราฟิก (GPU) ที่มีค่าถูกใช้งานอย่างไม่เต็มประสิทธิภาพ ความหน่วงเวลาสูงอาจทำให้ประสบการณ์ของผู้ใช้แย่ลงสำหรับบริการปัญญาประดิษฐ์ เช่น ระบบขับขี่อัตโนมัติ การตรวจจับการฉ้อโกง และการอนุมานแบบเรียลไทม์ ระบบ DCI ความเร็ว 800G ช่วยลดความหน่วงเวลาผ่านอัตราสัญลักษณ์ที่เร็วขึ้น (ซึ่งลดความหน่วงเวลาของแพ็กเก็ต) และการแก้ไขข้อผิดพลาดล่วงหน้า (Forward Error Correction) ที่มีความก้าวหน้ากว่าเดิม นอกจากนี้ เส้นทางแสงมีลักษณะเป็นแบบตรง หลีกเลี่ยงการใช้เราเตอร์ซึ่งจะเพิ่มความหน่วงเวลาในการส่งแพ็กเก็ต อีกทั้งเมื่อเชื่อมต่อคลัสเตอร์การประมวลผล AI โดยตรงผ่านระบบ DCI ความเร็ว 800G ความหน่วงเวลาภายในศูนย์ข้อมูลสามารถลดลงจากมิลลิวินาทีเป็นไมโครวินาที ทำให้การฝึกอบรมแบบกระจายสามารถทำงานได้ราวกับเป็นคลัสเตอร์การประมวลผลเดียวที่กระจายอยู่ทั่วพื้นที่มหาวิทยาลัยหรือเขตพื้นที่ขนาดใหญ่

ประโยชน์หลักของการอัปเกรดระบบ DCI ความเร็ว 800G

ดีซีไอ 800 กรัม มีข้อได้เปรียบในหลายด้านเมื่อเทียบกับความเร็วที่ต่ำกว่า ประสิทธิภาพเชิงสเปกตรัมของมันสูงเป็นสองเท่าของ 400G ซึ่งหมายความว่าผู้ให้บริการสามารถเพิ่มปริมาณข้อมูลที่ส่งผ่านได้เป็นสองเท่าบนโครงสร้างพื้นฐานเส้นใยแก้วนำแสงเดียวกัน นอกจากนี้ การใช้พลังงานยังลดลง เนื่องจาก 800G มีการใช้พลังงานต่อบิตที่ส่งผ่านน้อยกว่าการใช้งานลิงก์ 400G สองช่องพร้อมกัน อีกทั้งความหนาแน่นของพอร์ตบนสวิตช์และเราเตอร์ยังเพิ่มขึ้นอย่างมากด้วยอินเทอร์เฟซเพียงช่องเดียว ส่งผลให้มีความจุว่างสำหรับการเชื่อมต่อระบบประมวลผลเพิ่มขึ้น ประสิทธิภาพในการดำเนินงานยังดีขึ้นจากการทำให้การจัดการความยาวคลื่นง่ายขึ้น ความเร็วใหม่ระดับ 800G ยังช่วยเตรียมเครือข่ายให้รองรับอนาคตได้ด้วย เพราะสามารถตอบสนองความต้องการปัจจุบันได้อย่างง่ายดาย และจะใช้เวลานานขึ้นก่อนที่ผู้ให้บริการจำเป็นต้องอัปเกรดการเชื่อมต่อระหว่างศูนย์ข้อมูลอีกครั้ง เนื่องจากปริมาณการรับส่งข้อมูลจากปัญญาประดิษฐ์ (AI) คาดว่าจะเพิ่มขึ้นร้อยละ 50 ต่อปี สำหรับผู้ให้บริการคลาวด์และศูนย์ข้อมูลที่จัดการผู้เช่าซึ่งต้องการการถ่ายโอนข้อมูลจำนวนมาก 800G DCI จึงมอบข้อได้เปรียบทางธุรกิจ

การติดตั้งที่ยืดหยุ่นเพื่อการขยายตัวอย่างรวดเร็ว

ความเร็วในการนำระบบปัญญาประดิษฐ์ (AI) ไปใช้งานนั้นสูงมาก จนทำให้ชั้นการเชื่อมต่อระหว่างอุปกรณ์ (interconnect layer) อาจกลายเป็นอุปสรรคต่อการขยายระบบ โซลูชัน DCI ความเร็ว 800G มีตัวเลือกการติดตั้งที่ยืดหยุ่น สำหรับระยะทางที่ไกลขึ้นภายในเครือข่ายเมือง (metro network) ระบบสายส่งแสง (optical line systems) สามารถขยายระยะการส่งสัญญาณได้ในขณะที่รักษาอัตราการส่งข้อมูลสูงสุดไว้ได้ อุปกรณ์ออปติกแบบเสียบเข้าได้ (pluggable optics) ความเร็ว 800G ซึ่งออกแบบให้ติดตั้งกับอินเทอร์เฟซสวิตช์มาตรฐาน จะช่วยให้สามารถติดตั้งได้รวดเร็วที่สุด—เพียงเสียบเข้า ต่อเชื่อม และกำหนดค่าใช้งานเท่านั้น องค์กรที่กำลังสร้างศูนย์ข้อมูลแห่งใหม่สามารถใช้แพลตฟอร์ม DCI ความเร็ว 800G ที่ออกแบบมาเฉพาะ เพื่อควบคุมการจัดการและตรวจสอบประสิทธิภาพได้อย่างมีประสิทธิผลยิ่งขึ้น นอกเหนือจากโซลูชันเหล่านี้แล้ว อุปกรณ์ DCI-BOX ของบริษัท Sino-Telecom ยังมอบโซลูชัน DCI ที่มีขนาดกะทัดรัดสุด ผ่านการรวมระบบไว้ล่วงหน้า และมีต้นทุนต่ำ โดยออกแบบมาเฉพาะสำหรับศูนย์ข้อมูลระดับขอบเครือข่าย (edge data centers) และการเปิดให้บริการอย่างรวดเร็ว ด้วยความสามารถรองรับสูงสุดถึง 800G ต่อช่องสัญญาณ DCI-BOX ช่วยลดพื้นที่และพลังงานที่ใช้ พร้อมทั้งสนับสนุนการติดตั้งแบบปลั๊กแอนด์เพลย์ (plug-and-play) ไม่ว่าจะนำไปใช้เป็นอุปกรณ์เดี่ยวในจุดให้บริการระยะไกล (remote POPs) หรือเป็นส่วนหนึ่งของเครือข่ายแบบเมช (mesh network) ที่ใหญ่ขึ้น DCI-BOX ก็จะรับประกันว่าการเพิ่มกำลังการส่งผ่าน (capacity scaling) จะสอดคล้องกับความต้องการที่เพิ่มขึ้นจากเทคโนโลยี AI ทำให้ระยะเวลาการติดตั้งลดลงจากหลายวันเหลือเพียงไม่กี่ชั่วโมง ไม่ว่าในสถานการณ์การดำเนินงานใด ๆ ก็ตาม DCI ความเร็ว 800G สามารถติดตั้งได้ภายในเวลาไม่กี่ชั่วโมง แทนที่จะใช้เวลาหลายวัน จึงสอดคล้องกับอัตราการเติบโตและการขยายขนาดของโครงสร้างพื้นฐาน AI ได้อย่างมีประสิทธิภาพ

ตัวเลือก Ideal 800G สำหรับผู้ให้บริการอินเทอร์เน็ต (ISP) และศูนย์ข้อมูล

องค์กรต่าง ๆ มีความต้องการที่ไม่เหมือนกันสำหรับระบบ DCI ความเร็ว 800G ศูนย์ข้อมูลสำหรับการฝึกโมเดลปัญญาประดิษฐ์ (AI) ซึ่งมุ่งเน้นการขยายขีดความสามารถในการประมวลผล จำเป็นต้องใช้แบนด์วิดท์สูงและเวลาแฝงต่ำ จึงเหมาะกับการเชื่อมต่อแบบ point-to-point ความเร็ว 800G ระหว่างคลัสเตอร์ ในทางกลับกัน ผู้ให้บริการอินเทอร์เน็ต (ISP) ที่ให้บริการเชื่อมต่อระหว่างลูกค้า AI หลายราย จำเป็นต้องแยกความยาวคลื่นอย่างเคร่งครัด เพื่อป้องกันไม่ให้ปริมาณการรับส่งข้อมูลที่พุ่งสูงจากลูกค้ารายหนึ่งกระทบต่อลูกค้ารายอื่น แพลตฟอร์ม DCI ความเร็ว 800G ที่สามารถกำหนดค่าได้ด้วยทรานส์โพนเดอร์หลายตัว จะช่วยให้ ISP สามารถจัดสรรและเรียกเก็บค่าบริการตามความยาวคลื่นแต่ละช่องได้อย่างอิสระ นอกจากนี้ ลูกค้าทุกรายยังต้องมั่นใจในความน่าเชื่อถือของระบบ เพื่อป้องกันไม่ให้เกิดบิตเออร์เรอร์ซึ่งอาจทำให้งานประมวลผลต้องเริ่มใหม่ตั้งแต่จุดตรวจสอบล่าสุด (last checkpoint)

โซลูชัน 800G พร้อมใช้งานสำหรับการเติบโต

โซลูชัน DCI ความเร็ว 800G ของ Sino-Telecom ถูกออกแบบมาให้สอดคล้องกับความต้องการของการเชื่อมต่อศูนย์ข้อมูลปัญญาประดิษฐ์ (AI) โดยสำหรับเครือข่ายระยะไกลหรือเครือข่ายที่มีหลายจุดเชื่อมต่อ เราเสนอแพลตฟอร์มการเชื่อมต่อศูนย์ข้อมูล (DCI) ที่ผสานรวมเทคโนโลยีขยายสัญญาณ การชดเชยการกระจายของสัญญาณ และการตรวจสอบช่องสัญญาณไว้ด้วยกัน ระบบของเราสามารถปรับความจุได้แบบไม่หยุดให้บริการ (hitless) พร้อมเครื่องมือวินิจฉัยอย่างละเอียดและอินเทอร์เฟซการจัดการแบบรวมศูนย์ นอกจากนี้ เรามีสิทธิบัตรมากกว่า 240 ฉบับ และลิขสิทธิ์ซอฟต์แวร์มากกว่า 150 รายการ รวมทั้งทำงานร่วมกับเครือข่ายในกว่า 30 ประเทศทั่วโลก อาทิ ฝรั่งเศส บราซิล ออสเตรเลีย และอินโดนีเซีย พอร์ตโฟลิโอผลิตภัณฑ์ของเรา ยังครอบคลุมอุปกรณ์ออปติกแบบเสียบเข้าได้ (pluggable optics) ครบชุด ทั้งความเร็ว 200G, 400G และ 800G เพื่อให้เป็นโซลูชันแบบครบวงจร ตั้งแต่พอร์ตสวิตช์ไปจนถึงสายไฟเบอร์ออปติก