이더넷 표준에 대한 세 가지 임박한 개선은 AI 워크로드를 호스팅하는 더 나은 대안이 될 것이며, 이를 통해 공급업체는 향후 2년 동안 지배할 Nvidia의 InfiniBand 키트에 대한 대안으로 이 기술을 지원할 것입니다.

이번 주에 발표된 "신흥 기술: 제너레이티브 AI를 위한 네트워킹의 주요 트렌드"라는 제목의 분석 회사 Gartner가 발표한 의견이 바로 이것이었습니다. Gartner의 Emerging Technologies and Trends 그룹 회원이자 이사 분석가인 Anushree Verma가 작성한 이 보고서에서는 공급업체 및 클라우드와 같은 기술 제공업체 사이에서 InfiniBand 채택률이 25년까지 약 2026%에 도달하여 그 수준을 유지할 것으로 예측합니다.

이더넷은 그 해에 제공업체에서 동일한 채택률을 달성한 다음 10년 내에 80% 이상의 제공업체가 이더넷을 제공하는 지점까지 가속화될 것입니다.

기술 제공업체의 이러한 변화는 2028년까지 Gen AI 워크로드의 45%가 이더넷에서 실행된다는 것을 의미합니다. 이는 현재 20% 미만에서 증가한 수치입니다.

이더넷이 개선되고 있기 때문에 변화가 일어날 것입니다. Gartner는 현재 AI 교육에 "이상적이지 않다"고 평가하고 있지만 Verma는 이더넷을 InfiniBand에 비해 가치 있고 심지어 우수한 경쟁자로 만들 것이라고 생각하는 세 가지 혁신을 강조했습니다.

• RoCE(RDMA over Converged Ethernet) – 이더넷을 통해 장치 간 직접 메모리 액세스를 허용하여 성능을 향상시키고 CPU 사용률을 줄입니다.
• 무손실 이더넷 – 최신 스위치의 기능을 향상시키는 고급 흐름 제어, 개선된 혼잡 처리, 해싱 개선, 버퍼링 및 고급 흐름 원격 측정 기능을 제공합니다.
• 2024년 UEC(Ultra Ethernet Consortium) 사양은 이더넷 AI를 지원하도록 특별히 설계되었습니다.

이더넷은 개방적이기 때문에 Verma는 많은 공급업체가 위에서 언급한 세 가지 혁신을 구현하여 구매자에게 선택권을 제공하고 경쟁을 창출할 것으로 기대합니다.

이와 대조적으로 InfiniBand는 이더넷보다 가격이 더 비싸며 5년 동안 그대로 유지될 것입니다. Verna는 "확장성에 제한이 있고 관리하려면 특별한 기술이 필요하다"고 믿습니다. 이는 일부 네트워크 설계자가 관리하기 어려운 복잡성이 발생할 경우를 대비하여 이를 피한다는 것을 의미합니다.

그럼에도 불구하고 그녀는 생성적 AI 워크로드의 30%가 InfiniBand에서 실행될 것이라고 예측했습니다. 현재는 20% 미만입니다.

생성적 AI 트래픽을 전달하는 데 사용되는 네트워크의 광학적 상호 연결이 증가함에 따라 이러한 성장은 축소될 것입니다. Verna는 현재 AI 워크로드에 사용되는 네트워크 중 25% 미만이 상호 연결을 사용하고 있지만 2030년에는 그 비율이 XNUMX%로 증가할 것으로 예측했습니다.

그녀는 이 기술에 Intel, TSMC, HPE와 같은 큰 후원자가 있지만 2028년경까지는 널리 사용되지 않을 것이라고 경고했습니다. 일단 기술이 성숙되면 사용자는 컴퓨팅 클러스터의 확장성이 100Tbit/sec 이상으로 향상될 것으로 기대할 수 있습니다. 또한 전기 스위칭보다 전력이 덜 필요합니다.

PCIe도 증가하고 있으며 CXL 사양을 사용하여 버스 전체에서 메모리를 공유하기 위해 이를 사용하는 서버와 팀을 이루면 둘 다 AI 워크로드에서 널리 보급될 것으로 예상됩니다.

Verna는 다시 한 번 도입이 몇 년 더 걸릴 것으로 예상합니다. CXL은 2023년 초에 데뷔했으며 본격적인 채택이 2026년에 시작될 것이라고 생각합니다. 동시에 그녀는 PCIe 6.0 구현이 증가할 것으로 예상합니다.

Verna는 사용자가 "설계 단계에서 선도적인 기술 제공업체와 파트너십을 구축하여 경쟁 우위를 확보할 수 있는 조기 채택 기회를 평가"하고 위에 설명된 기술을 확실히 이해해야 한다고 권장합니다.

그리고 InfiniBand를 고려하는 사람들을 위해 그녀는 "InfiniBand 기반 스위치와 Ultra-Ethernet 기반 스위치를 평가하여 성능, 안정성, 확장성 및 가격에 대한 네트워킹 선택을 재평가"해야 한다고 썼습니다. ®

• SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
• PlatoData.Network 수직 생성 Ai. 자신에게 권한을 부여하십시오. 여기에서 액세스하십시오.
• PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
• 플라톤ESG. 탄소, 클린테크, 에너지, 환경, 태양광, 폐기물 관리. 여기에서 액세스하십시오.
• PlatoHealth. 생명 공학 및 임상 시험 인텔리전스. 여기에서 액세스하십시오.
• 출처: https://go.theregister.com/feed/www.theregister.com/2024/04/04/gartner_generative_ai_network_trends/