dCI 800G cho liên kết trung tâm dữ liệu AI: Băng thông, độ trễ và triển khai

Mọi thành phần trong mạng đều đang được cải tiến nhờ trí tuệ nhân tạo. Các tác vụ huấn luyện quy mô lớn cho các mô hình ngôn ngữ lớn, chạy các động cơ suy luận phân tán và đồng bộ hóa lượng dữ liệu khổng lồ giữa các cụm máy tính đang gây áp lực chưa từng có lên các kết nối liên trung tâm dữ liệu. 100G giờ đây không còn đủ đáp ứng nhu cầu xử lý AI, trong khi 400G nhanh chóng trở thành tiêu chuẩn mới thay vì mục tiêu ban đầu. Và đây là 800G DCI—tiêu chuẩn mới cho kết nối liên trung tâm dữ liệu AI.

Nhu cầu ngày càng tăng đối với 800G DCI

Cuộc đua hướng tới 800G DCI đang được thúc đẩy bởi sự hội tụ của nhiều yếu tố. Thứ nhất, kích thước các mô hình AI đã tăng vọt: số lượng tham số tăng từ hàng triệu lên hàng tỷ và thậm chí hàng nghìn tỷ. Việc phân tán các mô hình này trên nhiều cụm máy chủ (pod) khác nhau tại các trung tâm dữ liệu khác nhau đòi hỏi băng thông khổng lồ để truyền dữ liệu giữa các trung tâm dữ liệu. Thứ hai, việc huấn luyện phân tán hiện nay đặt các cụm máy chủ (pod) của trung tâm dữ liệu trên toàn bộ khu vực đô thị vào cùng một cụm tính toán, thay vì chỉ trong một tòa nhà duy nhất. Thứ ba, các ứng dụng thời gian thực như phát hiện gian lận và hệ thống tự hành đòi hỏi cả thông lượng cực lớn và độ trễ thấp ổn định, có thể dự báo được. Cuối cùng, xu hướng xây dựng cơ sở hạ tầng AI riêng tư khiến tổng tải trên các liên kết kết nối ngày càng gia tăng. Các công nghệ DCI truyền thống 100G và 200G, dù phù hợp với các khối lượng công việc thông thường, lại trở thành điểm nghẽn đối với các khối lượng công việc AI. DCI 800G đáp ứng nhu cầu về băng thông bằng cách cung cấp khả năng mở rộng trong tương lai.

Áp lực băng thông trong các trung tâm dữ liệu AI

Đặc tính của lưu lượng đào tạo AI gây áp lực bất thường lên các liên kết liên kết so với các ứng dụng thông thường. Trong quá trình đào tạo, gradient của mô hình phải được đồng bộ hóa trên tất cả các nút tính toán tham gia vào cuối mỗi lô dữ liệu. Lưu lượng all-reduce này bao gồm các đợt truyền tải đồng bộ, có khả năng làm tắc nghẽn ngay cả các liên kết có dung lượng cao. Dữ liệu cũng có thể được lưu trạng thái (checkpoint) định kỳ vào hệ thống lưu trữ phân tán, làm tăng thêm tải. Các đường ống chuẩn bị dữ liệu có thể tạo thành một luồng liên tục di chuyển dữ liệu giữa các tầng lưu trữ và các cụm tính toán. Khi cả ba sự kiện này xảy ra đồng thời, tổng tải trên các liên kết sẽ tăng lên theo cấp số nhân. Giải pháp DCI 800G giải quyết những áp lực này bằng cách truyền toàn bộ đợt lưu lượng all-reduce qua liên kết liên kết chỉ bằng một bước sóng duy nhất mà không cần xếp hàng đợi. Việc giảm áp lực ngược (backpressure) dọc theo liên kết liên kết giúp công việc đào tạo AI mở rộng quy mô tuyến tính.

Độ trễ thấp rất quan trọng đối với các dịch vụ AI

Băng thông không đủ để giải quyết vấn đề kết nối AI—độ trễ thấp cũng rất quan trọng. Trên toàn bộ trung tâm dữ liệu , độ trễ truyền thông ảnh hưởng đến tổng thông lượng huấn luyện vì các nút tính toán có thể bị buộc phải chờ đợi các nút đồng đẳng trong cụm tính toán, do đó làm giảm hiệu suất sử dụng các GPU quý giá. Độ trễ cao có thể dẫn đến trải nghiệm người dùng kém đối với các dịch vụ AI như hệ thống tự hành, phát hiện gian lận và suy luận thời gian thực. Giải pháp DCI 800G giảm độ trễ nhờ tốc độ ký hiệu nhanh hơn (giảm độ trễ gói tin) và kỹ thuật sửa lỗi tiến trước (FEC) tiên tiến hơn. Hơn nữa, các đường dẫn quang là trực tiếp, tránh các bộ định tuyến vốn gây thêm độ trễ trên hành trình của gói tin. Khi kết nối trực tiếp các cụm tính toán AI qua DCI 800G, độ trễ giữa các trung tâm dữ liệu có thể được giảm từ mili giây xuống vi giây—thực sự cho phép huấn luyện phân tán hoạt động như một cụm tính toán đơn lẻ trải rộng trên toàn khuôn viên.

Các lợi ích chính của việc nâng cấp lên DCI 800G

dCI 800g có lợi thế trên nhiều phương diện so với tốc độ thấp hơn. Hiệu suất phổ của nó gấp đôi so với 400G, nghĩa là các nhà khai thác có thể tăng gấp đôi thông lượng trên cùng một cơ sở hạ tầng sợi quang. Mức tiêu thụ điện năng cũng giảm xuống vì 800G tiêu tốn ít năng lượng hơn trên mỗi bit được truyền tải so với việc vận hành hai liên kết 400G. Với một giao diện duy nhất, mật độ cổng trên các bộ chuyển mạch và bộ định tuyến cũng tăng đáng kể, giải phóng dung lượng cho kết nối máy tính. Hiệu quả vận hành được cải thiện nhờ đơn giản hóa việc quản lý bước sóng. Các tốc độ 800G mới cũng giúp tương lai hóa mạng lưới vì nhu cầu hiện tại có thể dễ dàng đáp ứng và các nhà khai thác sẽ cần thời gian dài hơn trước khi phải nâng cấp lại các liên kết nội bộ do lưu lượng AI dự kiến tăng 50% mỗi năm. Đối với các nhà khai thác điện toán đám mây và trung tâm dữ liệu đang quản lý các khách hàng thuê đòi hỏi lượng lớn dữ liệu được truyền tải, giải pháp DCI 800G mang lại lợi thế kinh doanh.

Triển khai linh hoạt nhằm mở rộng nhanh chóng

Tốc độ triển khai các hệ thống trí tuệ nhân tạo (AI) hiện nay khiến lớp kết nối liên hệ (interconnect layer) có thể trở thành một điểm nghẽn. Giải pháp DCI 800G cung cấp các tùy chọn triển khai linh hoạt. Đối với khoảng cách truyền dẫn xa hơn trong mạng đô thị (metro network), các hệ thống đường truyền quang có khả năng mở rộng khoảng cách truyền dẫn đồng thời tối đa hóa tốc độ dữ liệu. Các module quang cắm rời (pluggable optics) 800G, tương thích với giao diện chuyển mạch tiêu chuẩn, cho phép triển khai nhanh nhất—chỉ cần cắm vào, kết nối và cấu hình. Các tổ chức đang xây dựng các khuôn viên trung tâm dữ liệu mới có thể tận dụng các nền tảng DCI 800G được thiết kế chuyên biệt, từ đó kiểm soát tốt hơn việc quản lý cũng như giám sát hiệu suất. Bổ trợ cho các giải pháp này, thiết bị DCI-BOX của Sino-Telecom mang đến một giải pháp DCI siêu nhỏ gọn, đã được tích hợp sẵn và chi phí hiệu quả, được thiết kế đặc biệt cho các trung tâm dữ liệu biên (edge data centers) và triển khai dịch vụ nhanh chóng. Hỗ trợ lên đến 800G trên mỗi kênh, thiết bị DCI-BOX giúp giảm thiểu diện tích chiếm dụng và mức tiêu thụ điện năng, đồng thời cho phép triển khai theo mô hình cắm-vào-là-dùng (plug-and-play). Dù được sử dụng như một đơn vị độc lập tại các điểm truy cập (POP) ở xa hay như một phần trong mạng lưới dạng lưới (mesh network) quy mô lớn hơn, DCI-BOX đều đảm bảo khả năng mở rộng dung lượng đi đúng nhịp với nhu cầu do AI thúc đẩy, rút ngắn thời gian triển khai từ vài ngày xuống chỉ còn vài giờ. Dù trong bất kỳ tình huống vận hành nào, giải pháp DCI 800G đều có thể được triển khai trong vòng vài giờ thay vì vài ngày, từ đó bắt kịp tốc độ tăng trưởng và quy mô hạ tầng AI.

Các tùy chọn Ideal 800G dành cho ISP và Trung tâm Dữ liệu

Các tổ chức khác nhau có những yêu cầu riêng biệt đối với DCI 800G. Các trung tâm dữ liệu huấn luyện AI tập trung vào việc mở rộng nhu cầu tính toán cần thông lượng cao và độ trễ thấp, do đó DCI 800G điểm-điểm giữa các cụm là lựa chọn lý tưởng. Các nhà cung cấp dịch vụ Internet (ISP) cung cấp kết nối liên mạng cho nhiều khách hàng AI đòi hỏi cách ly bước sóng nghiêm ngặt nhằm ngăn chặn tình trạng bùng nổ lưu lượng từ một khách hàng ảnh hưởng đến những khách hàng khác. Các nền tảng DCI 800G có thể cấu hình với nhiều bộ chuyển phát sẽ cho phép ISP phân bổ và tính phí từng bước sóng riêng lẻ. Mỗi khách hàng cũng đều cần đảm bảo độ tin cậy để các lỗi bit không buộc các tác vụ tính toán phải khởi động lại từ điểm kiểm tra gần nhất.

Các giải pháp 800G sẵn sàng triển khai để hỗ trợ tăng trưởng

Các giải pháp DCI 800G của Sino-Telecom được thiết kế đặc biệt để đáp ứng nhu cầu kết nối giữa các trung tâm dữ liệu AI. Đối với các mạng truyền dẫn xa hơn hoặc nhiều bước nhảy, chúng tôi cung cấp các nền tảng DCI được tích hợp sẵn bộ khuếch đại, bù tán sắc và giám sát kênh. Các hệ thống của chúng tôi hỗ trợ điều chỉnh dung lượng không gián đoạn (hitless) cùng các công cụ chẩn đoán chi tiết và giao diện quản lý tập trung. Chúng tôi sở hữu hơn 240 bằng sáng chế và hơn 150 bản quyền phần mềm, đồng thời triển khai giải pháp trên các mạng lưới tại hơn 30 quốc gia khác nhau, bao gồm Pháp, Brazil, Úc và Indonesia. Danh mục sản phẩm của chúng tôi còn bao gồm đầy đủ các module quang cắm rời (pluggable optics) tốc độ 200G, 400G và 800G nhằm mang đến giải pháp toàn diện từ cổng chuyển mạch đến đường cáp quang.