マルチFPGAボードによるRecurrent Neural Networkの高速化

• Item type: SIG Technical Reports(1)
• 公開日: 2018-01-11
• タイトル: マルチFPGAボードによるRecurrent Neural Networkの高速化
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: ニューラルネットワーク
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_18gh
• 資源タイプ: technical report
• 著者所属: 慶應義塾大学
• 著者所属: 慶應義塾大学
• 著者所属: 東京大学
• 著者所属: 慶應義塾大学
• 著者所属(英): en
• 著者所属(英): Keio University
• 著者所属(英): en
• 著者所属(英): Keio University
• 著者所属(英): en
• 著者所属(英): University of Tokyo
• 著者所属(英): en
• 著者所属(英): Keio University
• 著者名: 山内, 脩吾; 武者, 千嵯; 工藤, 知宏; 天野, 英晴
• 著者名(英): Yugo, Yamauchi; Kazusa, Musha; Tomohiro, Kudoh; Hideharu, Amano
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: NEDO プロジェクト 「省電力 AI エンジンと異種エンジン統合クラウドによる人工知能プラットフォーム」 では，GPU と FPGA を多数をサーキットスイッチング方式で接続，深層学習，AI アプリケーションのクラウド上での高速化，省電力を目的とする．本稿では仕様が決定し試作機が製造されている FPGA ノード FiC-SW1 を紹介，これを複数用いて Recurrent Neural Network (RNN) の一種 Long Short Term Memory (LSTM) の高速化を検討する．LSTM はここ 2，3 年翻訳や画像説明など高精度な AI モデルに採用され，FPGA でも GPU に競合する計算性能，それを上回る電力性能を達成できる．通信に強い FiC - SW1 ボードの特性を活かし複数 FPGA 上での LSTM 推論高速化を課題とした．複数 FPGA 上の LSTM 推論の実装を，並列化のためのタスク分割，実装，通信，ネットワークの変更によって検討する．評価の結果 9 ノードにおいてマルチ CPU 実装に比べて最大 433 倍，65 ノードの tree トポロジで最大 1907 倍の性能となることがわかった．
• 書誌レコードID / 収録物識別子タイプ: NCID
• 書誌レコードID / 収録物識別子: AN10096105
• 書誌情報: 研究報告システム・アーキテクチャ（ARC）; 巻 2018-ARC-229, 号 1, p. 1-6, 発行日 2018-01-11
• ISSN / 収録物識別子タイプ: ISSN
• ISSN / 収録物識別子: 2188-8574
• Notice: SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc.
• 出版者 / 言語: ja
• 出版者: 情報処理学会