| Item type |
SIG Technical Reports(1) |
| 公開日 |
2020-02-20 |
| タイトル |
|
|
タイトル |
組込み向けディープラーニングフレームワークの評価 |
| 言語 |
|
|
言語 |
jpn |
| キーワード |
|
|
主題Scheme |
Other |
|
主題 |
マルチコア |
| 資源タイプ |
|
|
資源タイプ識別子 |
http://purl.org/coar/resource_type/c_18gh |
|
資源タイプ |
technical report |
| 著者所属 |
|
|
|
三菱電機株式会社情報技術総合研究所 |
| 著者所属 |
|
|
|
三菱電機株式会社情報技術総合研究所 |
| 著者所属 |
|
|
|
三菱電機株式会社情報技術総合研究所 |
| 著者所属 |
|
|
|
三菱電機株式会社情報技術総合研究所 |
| 著者所属(英) |
|
|
|
en |
|
|
Information Technology R&D Center, Mitsubishi Electric Corporation |
| 著者所属(英) |
|
|
|
en |
|
|
Information Technology R&D Center, Mitsubishi Electric Corporation |
| 著者所属(英) |
|
|
|
en |
|
|
Information Technology R&D Center, Mitsubishi Electric Corporation |
| 著者所属(英) |
|
|
|
en |
|
|
Information Technology R&D Center, Mitsubishi Electric Corporation |
| 著者名 |
平森, 将裕
出口, 昌弘
大木, 英俊
水口, 武尚
|
| 論文抄録 |
|
|
内容記述タイプ |
Other |
|
内容記述 |
ディープラーニングフレームワークは，ディープラーニングにおけるモデル構築，学習，推論の実現に必要な構成要素を再利用可能な形で提供することで，ディープラーニングの実装を容易化するソフトウェアフレームワークであり，組込み向けディープラーニングフレームワークとしては TensoFlow Lite や ONNX Runtime が開発・提供されている．ディープラーニングフレームワークを活用して推論処理を組込み機器上に実装する際の，ディープラーニングフレームワーク選定のための指標を得ることを目的に，本研究では，これらの組込み向けディープラーニングフレームワークのリソース使用量を測定し，評価・比較した．結果，組込み機器の用途として考えられる下記 2 つに対して，以下の指標が得られた．(A) 電源投入後，最初の1回目の推論終了までの時間が重要な用途については，フレームワーク読み込み，モデル読み込み，1 回目の推論時間が重要，(B) 起動時間が長くとも繰り返す推論処理の処理時間が短いことが求められる用途については，2 回目以降の推論時間が重要であることが分かった．この指標をもとに TensorFlow LiteとONNX Runtime を比較すると，(A)，(B) の両方の用途で TensorFlow Lite が有利であることが分かった．また，TensoFlow Lite の 1 回目の推論時間は，2 回目以降と比較し 1.1 倍から 2.0 倍の時間である一方，ONNX Runtime は大きな差がないため，この原因を調査したところ，TensorFlow Lite では畳み込み演算実行前にフィルタの転置処理を実行していることが原因であることが判明した．一方 ONNX Runtime では，Conv 演算に用いるフィルタはあらかじめ転置された状態でモデルファイルに保存しているため，推論時に転置処理を呼出す必要がなく，1 回目の推論時間と 2 回目以降の推論時間に大きな差がなかったと考えられる．繰り返し行う推論処理の時間変化を抑える必要がある用途の場合，Conv 演算に使用するフィルタを転置した状態でモデルファイルに保存するように変更することで，TensorFlow Lite における 1 回目の推論を 2 回目以降と同等の処理時間に短縮可能である見込みを得た． |
| 書誌レコードID |
|
|
収録物識別子タイプ |
NCID |
|
収録物識別子 |
AN10444176 |
| 書誌情報 |
研究報告システムソフトウェアとオペレーティング・システム（OS）
巻 2020-OS-148,
号 4,
p. 1-6,
発行日 2020-02-20
|
| ISSN |
|
|
収録物識別子タイプ |
ISSN |
|
収録物識別子 |
2188-8795 |
| Notice |
|
|
|
SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc. |
| 出版者 |
|
|
言語 |
ja |
|
出版者 |
情報処理学会 |
IPSJ-OS20148004.pdf (479.4 kB)
