AIエッジLSIのAI認識・画像処理技術を向上：電力効率は汎用GPUの10倍以上

エッジ側でAI処理の分散を可能に

　新エネルギー・産業技術総合開発機構（NEDO）とソシオネクスト、ArchiTek（アーキテック）および、豊田自動織機は2020年6月、AI（人工知能）エッジLSIのAI認識／画像処理効率を大幅に向上させる技術を開発したと発表した。

　新たに開発したのは、「ハイブリッド量子化ディープニューラルネットワーク（DNN）技術」や、「進化型仮想エンジンアーキテクチャ（aIPE）技術」「リアルタイムSLAM（Simultaneous Localization and Mapping）処理技術」である。

　開発した技術を用いて試作した進化型低消費電力AIエッジLSIの性能を評価した。この結果、AI認識処理と画像処理の電力効率は、汎用GPUに比べ10倍以上となり、リアルタイムSLAMの自己位置推定処理時間は、従来のCPUに比べ20分の1に短縮できることを確認した。

試作した進化型低消費電力AIエッジLSIの外観と主な機能 （クリックで拡大） 出典：NEDO他

　NEDOとソシオネクストらによる研究グループは、2018〜2020年度のNEDO事業として、AIエッジ技術に関する研究に取り組んでいる。試作したAIエッジLSIを用いると、マシンビジョンやセキュリティシステム、車載センシングシステムなどにおいて、低電力、低遅延、低コストのエッジコンピューティングシステムを実現することができるという。

　開発した技術の1つが「AI認識処理を行うハイブリッド量子化DNN技術」で、ディープラーニングを実行するためのパラメーターやアクティベーションを低ビット化する技術である。

　ネットワーク構造はこれまで、浮動小数点を32ビット／16ビット、整数を8ビットで表していた。これに対し、ハイブリッド量子化DNN技術だと、バックボーンネットワークは3進数を2ビット、2進数を1ビット、ヘッドネットワークは整数8ビットと、複数の量子化精度を混在させる。これによって、認識精度の低下を抑えつつ低消費電力を実現することができた。

　さらに、TensorFlowに適合した量子化ライブラリや、推論用のハイブリッド量子化エンジン、学習環境から推論環境への変換処理技術などを開発することで、AI認識処理を高速かつ低消費電力で実行可能とした。

ハイブリッド量子化DNN技術の概要 出典：NEDO他

　画像処理を高速に並列処理することができる「進化型aIPE（ArchiTek Intelligence Pixel Engine）」は、SLAMアルゴリズムを最大限活用できるアーキテクチャに改良した。これにより、LiDARセンサーを用いたSLAM処理を効率よく実行できるという。

　この他、画像処理の高速化やAI拡張機能として、「ハードウェア調停機構の改良とメモリコントロール機能を最適化する技術」「ディープラーニングのネット定義を柔軟に可能にして、畳み込み回路などの要素部品を自由にプラグインする技術」「LiDARからVisual SLAMへ機能向上する技術」「量子化演算器」などを新たに開発した。これによって、アルゴリズムの進化や幅広いAIエッジ応用に対応することが可能となった

進化型aIPE技術の概要 出典：NEDO他

　NEDOとソシオネクストらの研究グループは今後、ハイブリッド量子化DNN技術と進化型aIPEを統合するとともに、リアルタイムSLAM処理技術の高度化やコンピュータビジョンとAI基本ミドルウェアライブラリの開発などを行っていく計画である。これにより、産業検査や運転支援、ドローンなどに適用できる進化型・低消費電力AIエッジLSIの実用化を目指す。なお、進化型aIPEを取り込んだプラットフォームは、ArchiTekが2020年10月からIPとして提供を始める予定である。