簡単に触れました Baiduのエッジボード 昨年。 北京で開催されたXDF2019で、BaiduはEdgeboardのデモを行いました。
簡単に言うと、EdgeboardはBaiduのFPGAベースの組み込みAIソリューションであり、モデル駆動型アーキテクチャを使用してソフトウェア定義のハードウェアを可能にします。 それらのソフトウェアスタックを以下に示します。
それらのスタックは、SoM、カード、ボックス、カメラなど、複数の形式のハードウェアをサポートします。 ユーザーは、エンドアプリケーションに応じて、さまざまな適切なハードウェアから選択できます。
このソリューションは、オンボードAI推論を可能にするために、多くの興味深いアプリケーションですでに使用されています。その一部を以下に示します。 高度なAI機能は、エンドカスタマーがより高い精度、より低いコスト、より高い生産性を達成するのに役立ちます。
ザイリンクスZU + MPSoCファミリの優れたデバイススケーラビリティのおかげで、XNUMXつのシリーズのBaidu Edgeboardが利用可能であり、それぞれがさまざまなエンドユーザーを可能にします。
Edgeboard（ZU3ベース）でのいくつかの一般的なAIモデルのパフォーマンスは、次の表に記載されています。
スノーレイク
Snowlakeは2017年に設立され、本社は中国の上海にあります。 ディープラーニングコンピューティング開発に焦点を当て、データセンターや自動運転などのアプリケーション向けにFPGAベースのソリューションとサービスを提供します。
XDF 2019で、SnowlakeはAlveo U200を使用したワイド＆ディープレコメンダーシステムのデモを行いました。 CPUと比較して、より低いレイテンシとより高いスループットを実現し、レコメンダーシステムの急速に増加するデータ要件に効率的に対応できるようにしました。
Snowlakeは、TensorFlowモデルに含まれる演算子に基づいた分散パイプライン計算を使用しました。 これらの最適化により、推論のパフォーマンスを劇的に向上させることができました。
また、モデルの展開を可能にするツールキットも開発しました。 これにより、モデルを簡単に更新して実際のシステムに展開できます。 多くのオープンソースモデルは、Snowlakeツールキットによってすでにサポートされています。
加速されていないCPUと比較して、Snowflakeテクノロジーは、大幅に高いスループットと低いレイテンシーを実現し、TCO（総所有コスト）を5分のXNUMXに削減します。
詳細については、以下を参照してください。 https://www.xilinx.com/publications/solution-briefs/partner/snowlake.pdf
