Drei bevorstehende Verbesserungen des Ethernet-Standards werden ihn zu einer besseren Alternative zum Hosten von KI-Workloads machen, und das wird dazu führen, dass Anbieter die Technologie als Alternative zu Nvidias InfiniBand-Kit unterstützen, das in den nächsten zwei Jahren dominieren wird.

Das ist die Meinung des Analystenhauses Gartner in einem diese Woche veröffentlichten Artikel mit dem Titel „Emerging Tech: Top Trends in Networking for Generative AI“. Das von der Chefanalystin Anushree Verma, einem Mitglied der Gartner-Gruppe „Emerging Technologies and Trends“, verfasste Papier prognostiziert, dass die InfiniBand-Akzeptanz bei Technologieanbietern wie Anbietern und Clouds bis 25 etwa 2026 Prozent erreichen und dort bleiben wird.

Ethernet wird in diesem Jahr die gleiche Akzeptanzrate bei den Anbietern erreichen und sich dann so weit beschleunigen, dass es in einem Jahrzehnt von über achtzig Prozent der Anbieter angeboten wird.

Dieser Wandel seitens der Technologieanbieter wird dazu führen, dass bis 2028 45 Prozent der Gen-AI-Workloads über Ethernet laufen werden – heute sind es weniger als 20 Prozent.

Der Umschwung wird kommen, weil sich Ethernet verbessert. Gartner bewertet es derzeit als „nicht ideal“ für das KI-Training, aber Verma hob drei Innovationen hervor, die ihrer Meinung nach Ethernet zu einem würdigen – sogar überlegenen – Konkurrenten gegenüber InfiniBand machen werden:

• RDMA over Converged Ethernet (RoCE) – ermöglicht den direkten Speicherzugriff zwischen Geräten über Ethernet, verbessert die Leistung und reduziert die CPU-Auslastung;
• Verlustfreies Ethernet – bringt erweiterte Flusskontrolle, verbesserte Überlastungsbewältigung, Hashing-Verbesserungen, Pufferung und fortschrittliche Flusstelemetrie, die die Fähigkeiten moderner Switches verbessern;
• Die Spezifikation des Ultra Ethernet Consortium (UEC) im Jahr 2024 – speziell entwickelt, um Ethernet KI-fähig zu machen.

Da Ethernet offen ist, geht Verma davon aus, dass viele Anbieter die drei oben genannten Innovationen implementieren werden, um den Käufern Wahlmöglichkeiten zu geben und Wettbewerb zu schaffen.

Im Gegensatz dazu ist InfiniBand teurer als Ethernet und wird es auch fünf Jahre lang bleiben. Verna glaubt, dass es „Einschränkungen bei der Skalierbarkeit gibt und besondere Fähigkeiten zur Verwaltung erfordert“, was bedeutet, dass einige Netzwerkdesigner es meiden, falls es zu einer unüberschaubaren Komplexität wird.

Dennoch prognostizierte sie, dass 30 Prozent der generativen KI-Workloads auf InfiniBand laufen werden – heute sind es weniger als 20 Prozent.

Dieses Wachstum wird durch die Zunahme optischer Verbindungen in Netzwerken, die zur Übertragung generativen KI-Verkehrs genutzt werden, in den Schatten gestellt. Verna stellte fest, dass heute weniger als ein Prozent der für KI-Workloads verwendeten Netzwerke die Interconnects nutzen, prognostizierte jedoch, dass dieser Anteil bis 25 auf 2030 Prozent ansteigen wird.

Sie warnte davor, dass die Technologie zwar große Unterstützer hat – wie Intel, TSMC und HPE –, aber erst etwa 2028 weit verbreitet sein wird. Sobald sie ausgereift ist, können Benutzer davon ausgehen, dass sie die Skalierbarkeit von Rechenclustern auf über 100 Tbit/s verbessern wird Außerdem ist weniger Strom erforderlich als beim elektrischen Schalten.

Auch PCIe ist auf dem Vormarsch, und wenn es mit Servern kombiniert wird, die es verwenden, um mithilfe der CXL-Spezifikation Speicher über den Bus hinweg zu teilen, geht Gartner davon aus, dass sich beide in KI-Workloads durchsetzen werden.

Auch hier geht Verna davon aus, dass die Einführung noch ein paar Jahre dauern wird: CXL kam Anfang 2023 auf den Markt, und sie geht davon aus, dass die ernsthafte Einführung im Jahr 2026 beginnen wird – zur gleichen Zeit erwartet sie, dass die PCIe 6.0-Implementierung ansteigt.

Verna empfiehlt Benutzern, „Möglichkeiten einer frühzeitigen Einführung zu prüfen, um durch den Aufbau von Partnerschaften in der Designphase mit führenden Technologieanbietern Wettbewerbsvorteile zu erzielen“ und ansonsten sicherzustellen, dass sie die oben beschriebenen Technologien verstehen.

Und für diejenigen, die über InfiniBand nachdenken, sei es notwendig, „die Netzwerkauswahl im Hinblick auf Leistung, Zuverlässigkeit, Skalierbarkeit und Preis neu zu bewerten, indem die InfiniBand-basierten Switches mit den Ultra-Ethernet-basierten Switches verglichen werden.“ ®

• SEO-gestützte Content- und PR-Distribution. Holen Sie sich noch heute Verstärkung.
• PlatoData.Network Vertikale generative KI. Motiviere dich selbst. Hier zugreifen.
• PlatoAiStream. Web3-Intelligenz. Wissen verstärkt. Hier zugreifen.
• PlatoESG. Kohlenstoff, CleanTech, Energie, Umwelt, Solar, Abfallwirtschaft. Hier zugreifen.
• PlatoHealth. Informationen zu Biotechnologie und klinischen Studien. Hier zugreifen.
• Quelle: https://go.theregister.com/feed/www.theregister.com/2024/04/04/gartner_generative_ai_network_trends/