Logo Zephyrnet

Những tiến bộ của Ethernet sẽ chấm dứt vị trí dẫn đầu của InfiniBand trong mạng AI

Ngày:

Ba cải tiến sắp xảy ra đối với tiêu chuẩn Ethernet sẽ giúp tiêu chuẩn này trở thành giải pháp thay thế tốt hơn để lưu trữ khối lượng công việc AI và điều đó sẽ chứng kiến ​​các nhà cung cấp ủng hộ công nghệ này như một giải pháp thay thế cho bộ công cụ InfiniBand của Nvidia, công cụ này sẽ thống trị trong hai năm tới.

Đó là ý kiến ​​​​của công ty phân tích Gartner trong một bài viết được xuất bản tuần này có tiêu đề “Công nghệ mới nổi: Các xu hướng hàng đầu về kết nối mạng cho AI sáng tạo”. Được viết bởi giám đốc phân tích Anushree Verma, thành viên của nhóm Xu hướng và Công nghệ mới nổi của Gartner, bài báo dự đoán việc áp dụng InfiniBand giữa các nhà cung cấp công nghệ như nhà cung cấp và đám mây sẽ đạt khoảng 25% vào năm 2026 và duy trì ở mức đó.

Ethernet sẽ đạt được tỷ lệ chấp nhận tương tự bởi các nhà cung cấp trong năm đó, sau đó tăng tốc đến mức được hơn 80% nhà cung cấp cung cấp trong một thập kỷ.

Sự thay đổi đó của các nhà cung cấp công nghệ có nghĩa là đến năm 2028, 45% khối lượng công việc của Gen AI sẽ chạy trên Ethernet – tăng từ mức dưới 20% hiện nay.

Sự thay đổi sẽ đến vì Ethernet đang được cải thiện. Gartner hiện đánh giá nó là “không lý tưởng” cho việc đào tạo AI, nhưng Verma nhấn mạnh ba cải tiến mà cô cảm thấy sẽ khiến Ethernet trở thành đối thủ xứng đáng – thậm chí vượt trội – chống lại InfiniBand:

  • RDMA qua Ethernet hội tụ (RoCE) – sẽ cho phép truy cập bộ nhớ trực tiếp giữa các thiết bị qua Ethernet, cải thiện hiệu suất và giảm mức sử dụng CPU;
  • Ethernet không mất dữ liệu – sẽ mang lại khả năng kiểm soát luồng tiên tiến, xử lý tắc nghẽn được cải thiện, cải tiến băm, đệm và đo từ xa luồng tiên tiến giúp cải thiện khả năng của các thiết bị chuyển mạch hiện đại;
  • Thông số kỹ thuật của Ultra Ethernet Consortium (UEC) vào năm 2024 – được thiết kế đặc biệt để giúp Ethernet AI sẵn sàng.

Vì Ethernet mở nên Verma kỳ vọng nhiều nhà cung cấp sẽ triển khai ba đổi mới nêu trên, mang lại cho người mua sự lựa chọn và tạo ra sự cạnh tranh.

Ngược lại, InfiniBand đắt hơn Ethernet và sẽ duy trì như vậy trong 5 năm. Verna tin rằng nó “có những hạn chế về khả năng mở rộng và yêu cầu các kỹ năng đặc biệt để quản lý”, điều đó có nghĩa là một số nhà thiết kế mạng sẽ tránh sử dụng nó trong trường hợp nó trở nên phức tạp không thể quản lý được.

Tuy nhiên, cô dự đoán 30% khối lượng công việc AI tổng hợp sẽ chạy trên InfiniBand – tăng từ mức dưới 20% hiện nay.

Sự tăng trưởng đó sẽ bị hạn chế bởi sự gia tăng của các kết nối quang học trong các mạng được sử dụng để truyền tải lưu lượng AI tổng hợp. Verna nhận thấy rằng hiện nay chưa đến 25% mạng được sử dụng cho khối lượng công việc AI sử dụng kết nối liên thông, nhưng dự đoán con số này sẽ tăng lên 2030% vào năm XNUMX.

Cô cảnh báo rằng mặc dù công nghệ này có những người ủng hộ lớn – chẳng hạn như Intel, TSMC và HPE – nhưng nó sẽ không được sử dụng rộng rãi cho đến khoảng năm 2028. Khi nó trưởng thành, người dùng có thể mong đợi nó sẽ cải thiện khả năng mở rộng của các cụm máy tính vượt quá 100Tbit/giây, đồng thời cũng đòi hỏi ít năng lượng hơn so với chuyển mạch điện.

PCIe cũng đang phát triển và khi được hợp tác với các máy chủ sử dụng nó để chia sẻ bộ nhớ trên xe buýt bằng thông số CXL, Gartner kỳ vọng cả hai sẽ trở nên phổ biến trong khối lượng công việc AI.

Một lần nữa, Verna dự đoán mức độ phổ biến sẽ còn vài năm nữa: CXL ra mắt vào đầu năm 2023 và cô cảm thấy rằng việc áp dụng nghiêm túc sẽ bắt đầu vào năm 2026 – cùng thời điểm cô mong đợi việc triển khai PCIe 6.0 sẽ tăng cường.

Verna khuyến nghị người dùng nên “Đánh giá các cơ hội áp dụng sớm để đạt được lợi thế cạnh tranh bằng cách thiết lập quan hệ đối tác ở giai đoạn thiết kế với các nhà cung cấp công nghệ hàng đầu” và nếu không thì hãy đảm bảo rằng họ hiểu các công nghệ được nêu ở trên.

Và đối với những người đang cân nhắc về InfiniBand, cô ấy viết rằng cần phải “đánh giá lại các lựa chọn mạng về hiệu suất, độ tin cậy, khả năng mở rộng và giá cả bằng cách đánh giá các thiết bị chuyển mạch dựa trên InfiniBand so với các thiết bị chuyển mạch dựa trên Ultra-Ethernet”. ®

tại chỗ_img

Tin tức mới nhất

tại chỗ_img