2021년 딥 러닝 작업을 위한 최고의 GPU

기술이 발전하고 더 많은 조직이 기계 학습 작업(MLOps)을 구현함에 따라 사람들은 프로세스 속도를 높일 방법을 찾고 있습니다. MobiDev의 AI 팀은 온프레미스와 클라우드 GPU(그래픽 처리 장치)의 장단점을 조사하기로 결정했습니다.

딥 러닝을 위한 온프레미스 GPU 옵션

온프레미스 구현을 위해 GPU를 사용하는 경우 여러 공급업체 옵션이 있습니다. 두 가지 인기 있는 선택은 NVIDIA와 AMD입니다.

NVIDIA는 적어도 부분적으로는 제공하는 라이브러리로 인해 널리 사용되는 옵션입니다. 쿠다 툴킷. 이러한 라이브러리를 통해 딥 러닝 프로세스를 쉽게 구축하고 NVIDIA 제품으로 강력한 머신 러닝 커뮤니티의 기반을 형성할 수 있습니다. 이는 많은 DL 라이브러리 및 프레임워크가 NVIDIA 하드웨어에 제공하는 광범위한 지원에서 볼 수 있습니다. NVIDIA의 단점은 최근 CUDA를 사용할 수 있는 시기에 제한을 두었다는 것입니다. 이러한 제한 사항에 따라 라이브러리는 Tesla GPU에만 사용해야 하며 더 저렴한 RTX 또는 GTX 하드웨어에는 사용할 수 없습니다.

AMD는 다음으로 알려진 라이브러리를 제공합니다. ROCM. 이러한 라이브러리는 TensorFlow 및 PyTorch는 물론 모든 주요 네트워크 아키텍처에서 지원됩니다. 그러나 새로운 네트워크 개발에 대한 지원은 커뮤니티 지원과 마찬가지로 제한적입니다.

GPU를 사용한 클라우드 컴퓨팅

클라우드 리소스는 최적화된 기계 학습 서비스와 함께 GPU에 대한 종량제 액세스를 제공할 수 있습니다. 세 가지 주요 제공업체는 모두 Microsoft Azure, AWS(Amazon Web Services), Google 클라우드.

Microsoft Azure는 다양한 인스턴스 옵션 GPU 액세스를 위해. 이러한 인스턴스는 시각화, 시뮬레이션 및 딥 러닝을 포함한 높은 계산 작업에 최적화되었습니다.

AWS에서는 네 가지 옵션 중에서 선택할 수 있습니다. 다양한 인스턴스 크기. 옵션에는 EC2 P3, P2, G4 및 G3 인스턴스가 포함됩니다. 이 옵션을 사용하면 NVIDIA Tesla V100, K80, T4 Tensor 또는 M60 GPU 중에서 선택할 수 있습니다. 인스턴스에 따라 최대 16개의 GPU까지 확장할 수 있습니다.

전용 GPU 인스턴스 대신 GCP를 사용하면 GPU를 기존 인스턴스에 연결할 수 있습니다. Evgeniy Krasnokutsky, AI/ML 솔루션 설계자 모비 데브 설명 : "예를 들어 Google Kubernetes 엔진을 사용하는 경우 다양한 GPU에 액세스할 수 있는 노드 풀을 만들 수 있습니다. 여기에는 NVIDIA Tesla K80, P100, P4, V100 및 T4 GPU가 포함됩니다."