シストリックアレイによる多層パーセプトロンの学習アクセラレータについて

• Item type: SIG Technical Reports(1)
• 公開日: 2021-11-24
• タイトル: シストリックアレイによる多層パーセプトロンの学習アクセラレータについて
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: 機械学習
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_18gh
• 資源タイプ: technical report
• 著者所属: 東京工業大学
• 著者所属: 東京工業大学
• 著者所属: 東京工業大学
• 著者所属: 東京工業大学
• 著者所属(英): en
• 著者所属(英): Tokyo Institute of Technology
• 著者所属(英): en
• 著者所属(英): Tokyo Institute of Technology
• 著者所属(英): en
• 著者所属(英): Tokyo Institute of Technology
• 著者所属(英): en
• 著者所属(英): Tokyo Institute of Technology
• 著者名: 妹尾, 豪士; 神宮司, 明良; 倉持, 亮佑; 中原, 啓貴
• 著者名(英): Takeshi, Senoo; Akira, Jinguji; Ryosuke, Kuramochi; Hiroki, Nakahara
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: ニューラルネットワークは多様な用途で用いられ，ネットワークの攻撃検知のような高速な学習を必要とする需要がある．誤差逆伝搬による学習をハードウェアで高速化するとき，誤差逆伝搬でパラメータを更新する計算の依存関係により並列処理が困難である．学習の推論と誤差逆伝搬を同時に計算できるデータフローアーキテクチャを実現するために，パラメータ更新を遅延させても多層パーセプトロンが正常に学習できることを示した．このハードウェアを Xilinx Alveo U50 に実装し，Intel Core i9 CPU と比較して 3 倍高速で 11.5 倍優れた電力効率を実現しており，また NVIDIA RTX 3090 GPU と比較して 2.5 倍高速で 21.4 倍優れた電力効率であることを示した．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: Neural networks are being used in various applications, and the demand for fast training with large amounts of data is emerging. For example, a network intrusion detection (NID) system needs to be trained in a short period to detect attacks based on large amount of traffic logs. We propose a training accelerator as a systolic array on a Xilinx U50 Alveo FPGA card to solve this problem. We found that the accuracy is almost the same as conventional training even when the forward and backward paths are run simultaneously by delaying the weight update. Compared to the Intel Core i9 CPU and NVIDIA RTX 3090 GPU, it was three times faster than the CPU and 2.5 times faster than the GPU. The processing speed per power consumption was 11.5 times better than the CPU and 21.4 times better than the GPU. From these results, we can conclude that implementing a training accelerator on FPGAs as a systolic array can achieve high speed and high energy efficiency.
• 書誌レコードID / 収録物識別子タイプ: NCID
• 書誌レコードID / 収録物識別子: AA11451459
• 書誌情報: 研究報告システムとLSIの設計技術（SLDM）; 巻 2021-SLDM-196, 号 7, p. 1-6, 発行日 2021-11-24
• ISSN / 収録物識別子タイプ: ISSN
• ISSN / 収録物識別子: 2188-8639
• Notice: SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc.
• 出版者 / 言語: ja
• 出版者: 情報処理学会