Drie aanstaande verbeteringen aan de Ethernet-standaard zullen het een beter alternatief maken voor het hosten van AI-workloads, en dat zal ervoor zorgen dat leveranciers de technologie steunen als alternatief voor Nvidia's InfiniBand-kit, die de komende twee jaar zal domineren.

Dat is de mening van analistenbureau Gartner in een stuk dat deze week werd gepubliceerd met de titel “Emerging Tech: Top Trends in Networking for Generative AI.” Het artikel, geschreven door directeur-analist Anushree Verma, lid van Gartner's Emerging Technologies and Trends-groep, voorspelt dat de adoptie van InfiniBand onder technologieleveranciers zoals leveranciers en clouds in 25 ongeveer 2026 procent zal bedragen en daar zal blijven.

Ethernet zal dat jaar hetzelfde acceptatiepercentage door providers bereiken, en vervolgens versnellen tot het punt waarop het binnen tien jaar door ruim tachtig procent van de providers wordt aangeboden.

Deze verschuiving bij technologieleveranciers zal betekenen dat in 2028 45 procent van de Gen AI-workloads op Ethernet zal draaien – tegen minder dan 20 procent nu.

De omslag zal komen omdat Ethernet verbetert. Gartner beschouwt het momenteel als “niet ideaal” voor AI-training, maar Verma benadrukte drie innovaties die volgens haar van Ethernet een waardige – zelfs superieure – concurrent zullen maken tegen InfiniBand:

• RDMA over Converged Ethernet (RoCE) – maakt directe geheugentoegang tussen apparaten via Ethernet mogelijk, waardoor de prestaties worden verbeterd en het CPU-gebruik wordt verminderd;
• Lossless Ethernet – zal geavanceerde flow control, verbeterde congestieafhandeling, hashing-verbeteringen, buffering en geavanceerde flow-telemetrie bieden die de mogelijkheden van moderne switches verbeteren;
• De specificaties van het Ultra Ethernet Consortium (UEC) in 2024 – specifiek ontworpen om Ethernet AI-ready te maken.

Omdat Ethernet open is, verwacht Verma dat veel leveranciers de drie hierboven genoemde innovaties zullen implementeren, waardoor kopers keuzevrijheid krijgen en concurrentie ontstaat.

InfiniBand is daarentegen duurder dan Ethernet en zal dat de komende vijf jaar ook blijven. Verna is van mening dat het “schaalbaarheidsbeperkingen heeft en speciale vaardigheden vereist om te beheren”, wat betekent dat sommige netwerkontwerpers het vermijden als het een onbeheersbare complexiteit wordt.

Niettemin voorspelde ze dat 30 procent van de generatieve AI-workloads op InfiniBand zal draaien – tegen minder dan 20 procent vandaag de dag.

Die groei zal worden overschaduwd door de opkomst van optische verbindingen in netwerken die worden gebruikt om generatief AI-verkeer te vervoeren. Verna ontdekte dat minder dan één procent van de netwerken die voor AI-workloads worden gebruikt vandaag de dag gebruik maken van interconnecties, maar voorspelde dat dit in 25 zal stijgen tot 2030 procent.

Ze waarschuwde dat, hoewel de technologie grote steun heeft – zoals Intel, TSMC en HPE – deze pas rond 2028 op grote schaal zal worden gebruikt. Als de technologie eenmaal volwassen is geworden, kunnen gebruikers verwachten dat deze de schaalbaarheid van rekenclusters tot boven de 100 Tbit/sec zal verbeteren, terwijl vereist ook minder stroom dan elektrisch schakelen.

PCIe is ook in opkomst, en wanneer het wordt gecombineerd met servers die het gebruiken om geheugen over de bus te delen met behulp van de CXL-specificatie, verwacht Gartner dat beide de overhand zullen krijgen in AI-workloads.

Opnieuw voorspelt Verna dat de introductie nog een paar jaar zal duren: CXL debuteerde begin 2023, en ze denkt dat de serieuze adoptie in 2026 zal beginnen – op hetzelfde moment dat ze verwacht dat de PCIe 6.0-implementatie zal toenemen.

Verna raadt gebruikers aan om “vroege adoptiemogelijkheden te evalueren om concurrentievoordeel te behalen door in de ontwerpfase partnerschappen aan te gaan met toonaangevende technologieleveranciers” en er anderszins voor te zorgen dat ze de hierboven geschetste technologieën begrijpen.

En voor degenen die InfiniBand overwegen, schreef ze dat het noodzakelijk zal zijn om “netwerkkeuzes opnieuw te evalueren op prestaties, betrouwbaarheid, schaalbaarheid en prijs door de op InfiniBand gebaseerde switches te vergelijken met op Ultra-Ethernet gebaseerde switches.” ®

• Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
• PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
• PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
• PlatoESG. carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
• Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
• Bron: https://go.theregister.com/feed/www.theregister.com/2024/04/04/gartner_generative_ai_network_trends/