AWSパノラマ 機械学習 (ML) デバイスとソフトウェア開発キット (SDK) のコレクションであり、コンピューター ビジョンをオンプレミスのインターネット プロトコル (IP) カメラにもたらします。 AWS Panorama デバイスのオプションには、AWS Panorama アプライアンスと AWS Panorama を搭載した Lenovo ThinkEdge SE70 が含まれます。 これらのデバイス オプションは、独自のユース ケースに応じて、価格とパフォーマンスの選択肢を提供します。 どちらの AWS Panorama デバイスも NVIDIA® Jetson™ System on Modules (SOM) 上に構築されており、NVIDIA JetPack SDK を使用しています。
AWS は、NVIDIA Jetpack SDK バージョン 4.6.2 をサポートする AWS Panorama の新しいソフトウェア アップデートをリリースしました。 このソフトウェア更新をダウンロードして、無線 (OTA) アップグレードプロセスを介して AWS Panorama デバイスに適用できます。 詳細については、 AWS Panorama アプライアンスの管理.
このリリースは、AWS Panorama の以前のソフトウェア リリースと下位互換性がありません。 アプリケーションを再構築して再デプロイする必要があります。 この投稿では、アプリケーション ソフトウェア ライブラリをサポートされている最新バージョンに更新するためのステップ バイ ステップ ガイドを提供します。
アップデートの概要
NVIDIA Jetpack SDK バージョン 4.6.2 CUDA 10.2、cuDNN 8.2.1、および TensorRT 8.2.1 の新しいバージョンのサポートが含まれています。 現在サポートされているその他の重要なライブラリには、DeepStream 6.0 と Triton Inference Server 21.07 が含まれます。 さらに、TensorRT 8.2.1 には、DNN 演算子サポートの拡張リスト、DLA の Sigmoid/Tanh INT8 サポート、TensorFlow および PyTorch とのより優れた統合が含まれています。 Torch から TensorRT への変換、および TensorFlow から TensorRT への変換がサポートされるようになりました。中間ステップとして ONNX に変換する必要はありません。 詳細については、次を参照してください。 NVIDIA が TensorRT 8.2 と PyTorch および TensorFlow との統合を発表.
次のセクションの手順に従って、アプリケーションを再デプロイできます。
前提条件
前提条件として、AWS アカウントと AWS パノラマ デバイス.
AWS パノラマ デバイスをアップグレードする
まず、AWS Panorama デバイスを最新バージョンにアップグレードします。
- AWSパノラマコンソールで、 Devices ナビゲーションペインに表示されます。
- アプライアンスを選択します。
- 選択する 設定.
- システムソフトウェア、選択する ソフトウェアアップデートを見る.
- 選択する システム ソフトウェア バージョン 5.0 以上を選択してから、このソフトウェアのインストールに進みます。
アプリケーションを再デプロイする
アプリケーションの一部として Open GPU アクセス機能を使用しない場合は、AWS Panorama コンソールで置換機能を使用します。 置換機能は、最新のソフトウェア用にモデルを再構築します。
- AWSパノラマコンソールで、 デプロイされたアプリケーション ナビゲーションペインに表示されます。
- アプリケーションを選択します。
- 選択する 交換する.
オープン GPU アクセス機能を使用するアプリケーションの場合、通常、アップグレードには、コンテナーが基盤となる GPU ハードウェアにアクセスできるようにすることと、独自のモデルとランタイムをデプロイして管理することが含まれます。 アプリケーションで NVIDIA TensorRT を使用することをお勧めしますが、これに限定されません。
Dockerfile のライブラリも更新する必要があります。 更新する典型的なライブラリには、CUDA 10.2、cuDNN 8.2.1、TensorRT 8.2.1、DeepStream 6.0、OpenCV 4.1.1、および VPI 1.1 が含まれます。 注意として、ソフトウェア スタック内のすべての関連する CUDA/NVIDIA の変更は、次の場所にあります。 ジェットパック SDK 4.6.2.
TensorRT 8.2.1 のモデルを再構築し、 package.json 更新されたアセットを含むファイル。 いまなら可能です ビルド 更新された依存関係とモデルを使用してコンテナをデプロイし、AWS Panorama コンソールを使用してアプリケーション コンテナをアプライアンスにデプロイするか、 API.
この時点で、AWS Panorama アプリケーションは Jetpack SDK バージョン 4.6.2 を使用できるはずです。 このバージョンと互換性のある AWS Panorama のサンプル アプリケーションは、次の場所にあります。 GitHubの.
まとめ
AWS Panorama の新しい更新により、アプリケーションを再構築して再デプロイする必要があります。 この投稿では、AWS Panorama アプリケーション ソフトウェア ライブラリをサポートされている最新バージョンに更新する手順について説明しました。
ご不明な点がございましたら、AWS Panorama までお問い合わせください。 AWS re:Post.
著者について
ヴィノード・ラマン AWS のプリンシパル プロダクト マネージャーです。
スティーブン・ホワイト AWS のシニア コンピュータ ビジョン/EdgeML ソリューション アーキテクトです。
