Sliding Window実現方式の自動選択機構によるCNN推論処理の高効率化

• Item type: SIG Technical Reports(1)
• 公開日: 2024-03-14
• タイトル: Sliding Window実現方式の自動選択機構によるCNN推論処理の高効率化
• タイトル / 言語: en
• タイトル: Highly efficient CNN inference through automatic selection of sliding window implementation
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: 回路・システム設計
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_18gh
• 資源タイプ: technical report
• 著者所属: 日本電気株式会社
• 著者所属: 日本電気株式会社
• 著者所属: 日本電気株式会社
• 著者所属(英): en
• 著者所属(英): NEC Corporation
• 著者所属(英): en
• 著者所属(英): NEC Corporation
• 著者所属(英): en
• 著者所属(英): NEC Corporation
• 著者名: 酒井, 完; 中村, 寿彦; 阪, 慎一
• 著者名(英): Tamotsu, Sakai; Toshihiko, Nakamura; Shinich, Saka
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: 近年，様々な画像認識タスクにおいて広く使用されている CNN は認識精度を更に向上させる為，モデル規模を複雑化・巨大化させる傾向にあるが，それに伴い，組込み機器上においては高効率な CNN 推論処理が求められている．本稿では，FPGA 上の高効率な CNN 推論処理の実現に向け，既に提案されている FPGA 上の CNN デザイン自動生成フローで生成される HW アーキテクチャの改善を検討した．具体的には，畳み込み層やプーリング層を構成する Sliding Window ユニットに改善余地があることに着目し，低スループット用 Sliding Window ユニットの検討を行った上で，各層の要求スループットに応じて適切な Sliding Window 実現方式を自動選択する機構を，本フローを構成す るC++ ベースの CNN ライブラリに新たに導入した．評価の結果，生成された CNN デザインのスループットが変化することなく面積効率が改善することを確認し，Sliding Window 実現方式の自動選択機構の有用性を実証した．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: Recently, Convolutional Neural Networks (CNNs) have been widely used in various range of image recognition tasks. To further improve recognition accuracy, the complexity and size of CNN models are more and more increasing as a result of which the demand for highly efficient CNN inference is required in embedded devices. In this paper, to achieve highly efficient CNN inference on FPGA, we have explored the improvement of hardware architectures generated by the proposed FPGA-based CNN design automation flow. After presenting dedicated sliding window architecture which operates at low throughput, we have introduced a system to automatically select the appropriate sliding window architecture in the C++ based CNN library which constitute the proposed design flow. Through evaluation, we have confirmed that the area efficiency has been improved without affecting the throughput of the generated CNN design, which demonstrates the effectiveness of the automatic selection system for Sliding Window implementation.
• 書誌レコードID / 収録物識別子タイプ: NCID
• 書誌レコードID / 収録物識別子: AA12149313
• 書誌情報: 研究報告組込みシステム（EMB）; 巻 2024-EMB-65, 号 29, p. 1-7, 発行日 2024-03-14
• ISSN / 収録物識別子タイプ: ISSN
• ISSN / 収録物識別子: 2188-868X
• Notice: SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc.
• 出版者 / 言語: ja
• 出版者: 情報処理学会