제퍼넷 로고

AWS Panorama는 이제 NVIDIA JetPack SDK 4.6.2를 지원합니다.

시간

AWS 파노라마 머신 러닝(ML) 장치와 사내 인터넷 프로토콜(IP) 카메라에 컴퓨터 비전을 제공하는 소프트웨어 개발 키트(SDK)의 모음입니다. AWS Panorama 장치 옵션에는 AWS Panorama 어플라이언스와 AWS Panorama 기반 Lenovo ThinkEdge SE70이 있습니다. 이러한 장치 옵션을 사용하면 고유한 사용 사례에 따라 가격과 성능을 선택할 수 있습니다. 두 AWS Panorama 장치는 모두 NVIDIA® Jetson™ 시스템 온 모듈(SOM)을 기반으로 하며 NVIDIA JetPack SDK를 사용합니다.

AWS는 NVIDIA Jetpack SDK 버전 4.6.2를 지원하는 AWS Panorama용 새 소프트웨어 업데이트를 출시했습니다. 이 소프트웨어 업데이트를 다운로드하고 무선(OTA) 업그레이드 프로세스를 통해 AWS Panorama 장치에 적용할 수 있습니다. 자세한 내용은 AWS Panorama 어플라이언스 관리.

이 릴리스는 AWS Panorama의 이전 소프트웨어 릴리스와 역호환되지 않습니다. 애플리케이션을 다시 빌드하고 재배포해야 합니다. 이 게시물은 애플리케이션 소프트웨어 라이브러리를 지원되는 최신 버전으로 업데이트하는 단계별 가이드를 제공합니다.

업데이트 개요

최대 XNUMXW 출력을 제공하는 NVIDIA Jetpack SDK 버전 4.6.2 CUDA 10.2, cuDNN 8.2.1 및 TensorRT 8.2.1의 최신 버전에 대한 지원을 포함합니다. 현재 지원되는 다른 주목할만한 라이브러리에는 DeepStream 6.0 및 Triton Inference Server 21.07이 있습니다. 또한 TensorRT 8.2.1에는 확장된 DNN 운영자 지원 목록, DLA에 대한 Sigmoid/Tanh INT8 지원, TensorFlow 및 PyTorch와의 더 나은 통합이 포함됩니다. 이제 중간 단계로 ONNX로 변환할 필요 없이 Torch에서 TensorRT로의 변환과 TensorFlow에서 TensorRT로의 변환이 지원됩니다. 자세한 내용은 다음을 참조하십시오. NVIDIA, TensorRT 8.2 및 PyTorch 및 TensorFlow와의 통합 발표.

다음 섹션의 단계에 따라 애플리케이션을 재배포할 수 있습니다.

사전 조건

전제 조건으로 AWS 계정과 AWS 파노라마 디바이스.

AWS 파노라마 디바이스 업그레이드

먼저 AWS Panorama 디바이스를 최신 버전으로 업그레이드합니다.

  1. AWS Panorama 콘솔에서 디바이스 탐색 창에서
  2. 어플라이언스를 선택합니다.
  3. 왼쪽 메뉴에서 설정.
  4. $XNUMX Million 미만 시스템 소프트웨어선택한다. 소프트웨어 업데이트 보기.

  5. 왼쪽 메뉴에서 시스템 소프트웨어 버전 5.0 이상을 선택한 다음 이 소프트웨어를 설치합니다.

애플리케이션 재배포

Open GPU 액세스 기능을 애플리케이션의 일부로 사용하지 않는 경우 AWS Panorama 콘솔에서 교체 기능을 사용합니다. 바꾸기 기능은 최신 소프트웨어에 맞게 모델을 재구축합니다.

  1. AWS Panorama 콘솔에서 배포된 애플리케이션 탐색 창에서
  2. 애플리케이션을 선택합니다.
  3. 왼쪽 메뉴에서 교체.

Open GPU 액세스 기능을 사용하는 애플리케이션의 경우 업그레이드에는 일반적으로 기본 GPU 하드웨어에 대한 컨테이너 액세스를 허용하고 고유한 모델 및 런타임을 배포 및 관리하는 것이 포함됩니다. 애플리케이션에서 NVIDIA TensorRT를 사용하는 것이 좋지만 이에 국한되지 않습니다.

Dockerfile의 라이브러리도 업데이트해야 합니다. 업데이트할 일반적인 라이브러리에는 CUDA 10.2, cuDNN 8.2.1, TensorRT 8.2.1, DeepStream 6.0, OpenCV 4.1.1 및 VPI 1.1이 포함됩니다. 참고로 소프트웨어 스택의 모든 관련 CUDA/NVIDIA 변경 사항은 다음에서 찾을 수 있습니다. 제트팩 SDK 4.6.2.

이제 TensorRT 8.2.1용 모델을 다시 빌드하고 package.json 업데이트된 자산이 포함된 파일입니다. 당신은 지금 할 수 있습니다 빌드 업데이트된 종속성 및 모델이 있는 컨테이너를 만들고 AWS Panorama 콘솔을 사용하여 애플리케이션 컨테이너를 어플라이언스에 배포합니다. 아피스.

이 시점에서 AWS Panorama 애플리케이션은 Jetpack SDK 버전 4.6.2를 사용할 수 있어야 합니다. 이 버전과 호환되는 AWS Panorama의 샘플 애플리케이션은 다음 위치에 있습니다. GitHub의.

결론

AWS Panorama에 대한 새로운 업데이트로 애플리케이션을 재구축하고 재배포해야 합니다. 이 게시물에서는 AWS Panorama 애플리케이션 소프트웨어 라이브러리를 지원되는 최신 버전으로 업데이트하는 단계를 안내했습니다.

질문이 있는 경우 AWS Panorama에 문의하십시오. AWS re:post.


저자에 관하여

비노드 라만 AWS의 수석 제품 관리자입니다.

스티븐 화이트 AWS의 수석 컴퓨터 비전/EdgeML 솔루션 아키텍트입니다.

spot_img

최신 인텔리전스

spot_img