제퍼넷 로고

엔비디아 GTC 기조연설 | Blackwell Architecture는 2024년 후반에 AI 제품을 가속화할 예정입니다.

시간

"이게 콘서트가 아니라는 걸 알아줬으면 좋겠어”라고 Nvidia 사장 Jensen Huang이 산호세에 있는 SAP 센터에서 말했습니다. CEO Jensen Huang은 NVIDIA의 GPU 기술 컨퍼런스(GTC) 2024에서 흥미진진한 기조연설을 통해 기술 재정의를 약속하는 획기적인 발표를 했습니다. 11,000명이 넘는 참석자와 전 세계 청중이 참여한 이번 행사에서는 가속 컴퓨팅과 AI의 미래에 대해 흥미를 갖고 추측했습니다.

차례

GTC 2024 군중의 모습

개발자 컨퍼런스에 도착하셨습니다. 알고리즘, 컴퓨터 아키텍처, 수학을 설명하는 과학이 많이 있을 것입니다. 나는 방에 매우 무거운 무게를 느낍니다. 갑자기, 당신은 잘못된 장소에 있습니다.

엔비디아의 젠슨 황 CEO

NVIDIA GTC 2024 키노트의 주요 내용을 살펴보겠습니다!

가속 컴퓨팅

Huang은 가속화된 컴퓨팅 패러다임이 산업 전반에 걸쳐 컴퓨팅 수요의 증가를 유지하는 데 필수적이라고 강조했습니다. 범용 컴퓨팅이 한계에 도달함에 따라 NVIDIA의 가속 컴퓨팅 아키텍처는 상당한 성능 향상을 약속하며 기후 과학에서 의료에 이르기까지 다양한 분야의 발전을 촉진합니다. 가속화된 컴퓨팅으로의 전환은 기술적일 뿐만 아니라 글로벌 데이터 센터 인프라의 현대화를 요구하는 새로운 산업 혁명을 의미합니다.

1964년부터 현재까지 NVIDIA의 여정
1964년부터 현재까지 NVIDIA의 여정

생성적 AI: 새로운 소프트웨어 카테고리 생성

기조연설에서는 생성적 AI(Generative AI)가 이전에는 존재하지 않았던 소프트웨어를 만들 수 있는 강력한 기술로 등장한다는 점을 강조했습니다. ChatGPT 및 다양한 생성 모델과 같은 발전을 통해 예시된 이 새로운 AI 카테고리는 텍스트, 이미지, 심지어 소프트웨어 코드까지 포함한 새로운 콘텐츠를 생성하는 능력을 보여주며 AI 기반 창의성과 생산성의 새로운 시대를 예고합니다.

블랙웰 아키텍처 소개

Huang의 기조 연설의 핵심은 존경받는 수학자 David Harold Blackwell의 이름을 딴 혁신적인 도약인 Blackwell 아키텍처의 도입이었습니다. 이는 기존 컴퓨팅 패러다임에 도전하는 이전 버전인 Hopper의 기능을 크게 능가합니다.

블랙웰 아키텍처 소개
출처: NVIDIA

기술 혁신

  • 트랜지스터 및 프로세스 혁신: Blackwell은 정교한 208NP TSMC 프로세스를 활용하여 두 개의 칩에 걸쳐 4억 개의 트랜지스터로 설계되었습니다. 이 설계를 통해 기존 반도체의 한계를 뛰어넘는 놀라운 10TB/s 인터페이스가 가능해졌습니다.
  • 효율성과 성능: 이 아키텍처는 FP4 및 FP6 컴퓨팅 기능을 도입하여 성능과 정밀도의 균형을 유지하면서 모델 훈련 효율성을 향상시킵니다. XNUMX세대 Transformer 엔진은 컴퓨팅, 대역폭, 모델 크기를 대폭 개선하여 AI 개발 요구 사항을 충족합니다.

Blackwell은 어떻게 도움을 주나요? 아래 섹션에서 이에 대해 살펴보겠습니다.

대역폭 및 안정성

  • 고급 연결: PCIe Gen6 및 HBM3e 메모리 기술과 통합되어 대역폭이 크게 증가합니다. 1.8세대 NVLink는 향상된 AI 배포 안정성을 위해 RAS 엔진의 지원을 받아 대역폭을 XNUMXTB/s로 두 배 늘렸습니다.
  • 기밀 컴퓨팅: Blackwell은 또한 기밀 컴퓨팅 기능을 도입하여 GPU의 신뢰할 수 있는 실행 환경 내에서 안전한 데이터 처리를 보장합니다.
NVIDIA CEO Jensen Huang은 2024월 18일 캘리포니아 산호세에서 열린 NVIDIA GTC XNUMX에서 Blackwell(왼쪽)과 Hopper(오른쪽) GPU를 선보입니다.
NVIDIA CEO Jensen Huang은 2024월 18일 캘리포니아 산호세에서 열린 NVIDIA GTC XNUMX에서 Blackwell(왼쪽)과 Hopper(오른쪽) GPU를 선보입니다.

출처: 테크리퍼블릭

Blackwell의 기술 발전

  • 성과 이정표: 훈련용 FP2.5에서 8배, 추론용 FP5에서 4배의 성능을 달성하는 Blackwell 칩은 NVIDIA GB200 Grace Blackwell Superchip과 함께 GPU 성능 및 메모리 아키텍처 효율성에 대한 새로운 표준을 설정합니다.
  • 네트워킹 플랫폼: Quantum-X800 InfiniBand 및 Spectrum-X800 이더넷 플랫폼과의 통합으로 최대 800Gb/s의 네트워킹 속도가 가능하며, NVLink 스위치 칩은 AI 교육 및 추론을 위한 고급 NVIDIA GB200 NVL72 시스템 구축을 지원합니다.
  • 슈퍼컴퓨팅 기능: NVIDIA GB200 Grace Blackwell Superchips로 구동되는 DGX SuperPOD는 AI 슈퍼컴퓨팅의 랜드마크입니다. 11.5조 매개변수 모델용으로 설계된 이 제품은 FP4 정밀도로 XNUMX엑사플롭스의 컴퓨팅 성능을 제공하며, 확장 가능하고 효율성이 높은 AI 처리를 위한 수냉식 아키텍처를 갖추고 있습니다.

업계 채택 및 지원

  • 기업 지원: Sundar Pichai(Alphabet 및 Google), Elon Musk(Tesla 및 xAI) 및 기타 업계 리더와 같은 유명 인사들이 Blackwell을 공개적으로 지지했으며, 이는 NVIDIA의 비전을 향한 업계의 광범위한 전환을 나타냅니다.
  • 글로벌 채택: 선도적인 클라우드 서비스와 혁신적인 AI 기업의 지원을 받아 Blackwell의 포괄적인 채택은 다양한 분야에 혁명을 일으킬 수 있는 잠재력을 보여줍니다.

NIM을 사용한 생성적 AI

Huang의 비전은 하드웨어를 넘어 소프트웨어를 만들고 배포하는 방법까지 확장되었습니다. 그는 AI 기반 소프트웨어 패키징 및 제공 분야의 판도를 바꾸는 NVIDIA NIM(NVIDIA 추론 마이크로서비스)을 소개했습니다. 이 혁신은 개발자를 전 세계 수백만 개의 GPU와 연결하여 다양한 애플리케이션에 맞춤형 AI를 배포할 수 있게 해줍니다.

AI를 현실 세계와 병합: Omniverse Cloud API

  • 옴니버스 클라우드 통합: AI와 물리적 현실의 융합을 강조하는 Omniverse Cloud API는 로봇 공학 개발과 AI가 세상을 이해하는 데 필수적인 고급 시뮬레이션 기능을 제공합니다.
  • 패러다임의 변화: Generative AI는 소프트웨어 개발 프로세스를 재정의하고 있습니다. 기업은 전통적인 코딩 대신 AI 모델을 활용하고 작업을 할당하며 예시와 피드백을 통해 안내할 것입니다. NVIDIA의 컴퓨팅 라이브러리와 생성적 AI 모델을 기반으로 구축된 NVIDIA NIM은 이러한 새로운 접근 방식을 나타냅니다.
  • 통합 단순화: NVIDIA의 마이크로서비스는 기존 시스템에 쉽게 통합되도록 설계되어 표준 산업 API를 지원합니다. NVIDIA의 CUDA 플랫폼에 최적화되어 있으며, 새로운 GPU 세대에 맞춰 지속적으로 업데이트되고, 강력하고 안전한 AI 솔루션을 보장하기 위해 정기적으로 보안 검사를 받습니다.

프로젝트 그루트: 휴머노이드 로봇공학의 미래

수많은 발표 중에서 프로젝트 그루트(Project Groot)는 휴머노이드 로봇공학에 대한 엔비디아의 야망을 보여주는 상징으로 떠올랐습니다. 인기 있는 "가디언즈 오브 갤럭시(Guardians of the Galaxy)" 캐릭터에 고개를 끄덕이면서 장난스럽게 이름이 붙여진 Groot는 휴머노이드 로봇을 위한 범용 기반 모델에 대한 NVIDIA의 벤처를 대표합니다. Huang은 로봇 공학과 AI가 융합되어 환경과 원활하게 상호 작용할 수 있는 자율 시스템을 만드는 세상을 상상했습니다. 이 프로젝트는 Omniverse와 같은 가상 환경에서 엄격한 훈련을 통해 AI의 디지털 능력과 물리적 표현 사이의 격차를 해소하고 인간 사례에서 학습하고 물리 법칙에 적응하는 것을 목표로 합니다.

재단: Jetson Thor 및 Isaac Lab

Jetson Thor 컴퓨터와 Isaac Lab은 Project Groot 개발 인프라의 핵심을 형성합니다. Transformer 엔진이 장착된 Jetson Thor는 휴머노이드 로봇에 탁월한 처리 능력을 제공하여 전례 없는 정밀도로 세상과 상호 작용하고 탐색하는 능력을 향상시킵니다.

로봇 공학의 미래

Huang은 움직이는 모든 사물이 로봇 공학을 통합하고 자동차 부문이 중요한 역할을 하는 미래를 예측합니다. Huang은 NVIDIA의 영향력을 강조하면서 선도적인 전기 자동차 제조업체인 BYD가 자율주행차용으로 NVIDIA의 차세대 컴퓨터를 선택했다고 밝혔습니다.

지각과 조작의 발전

  • 아이작 퍼셉터 SDK: 로봇의 환경 인식을 향상시키기 위해 도입된 이 툴킷은 고급 시각적 주행 거리 측정, 3D 재구성 및 깊이 감지 기능을 제공합니다.
  • 아이작 매니퓰레이터: 이 새로운 라이브러리는 정교한 인식, 경로 계획 및 제어 메커니즘을 통해 로봇 팔 기술을 발전시켜 로봇 적응성의 주요 진전을 알립니다.

Groot와는 다른 프로젝트 GR00T는 로봇 공학 및 구현된 AI 발전에 대한 NVIDIA의 약속을 나타냅니다. 엔비디아는 프로젝트 GR00T 발표와 함께 휴머노이드 로봇에 맞춰진 젯슨 토르(Jetson Thor) 컴퓨터를 선보이고 엔비디아 아이작(NVIDIA Isaac) 로봇 플랫폼을 크게 개선해 더욱 정교한 로봇 시스템을 위한 토대를 마련했습니다.

GTC 2024년 XNUMX월 NVIDIA CEO Jensen Huang과 함께하는 기조 연설

[포함 된 콘텐츠]

엔드 노트

Jensen Huang이 이끄는 NVIDIA의 GTC 2024 기조연설은 단순한 프레젠테이션 그 이상이었습니다. 그것은 미래에 대한 선언이었습니다. Blackwell 아키텍처가 공개되고 Project Groot가 눈에 띄면서 NVIDIA는 디지털 및 물리적 영역을 변화시킬 기술 시대를 형성하고 있습니다. 이러한 정점에 서서 NVIDIA의 혁신은 차세대 산업 혁명을 촉발하여 가속화된 컴퓨팅과 생성적 AI를 통해 발전을 이룰 수 있습니다.

계속 지켜봐주십시오. 분석 Vidhya 블로그 GenAI의 세계에서 무슨 일이 일어나고 있는지 더 자세히 알아보세요!

spot_img

최신 인텔리전스

spot_img