CNNの学習におけるチャネル方向並列化の提案

• Item type: SIG Technical Reports(1)
• 公開日: 2018-02-21
• タイトル: CNNの学習におけるチャネル方向並列化の提案
• タイトル / 言語: en
• タイトル: Proposal of a channel-wise parallelization scheme for training of CNN
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: 機械学習
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_18gh
• 資源タイプ: technical report
• 著者所属: 東京大学大学院工学系研究科／産業技術総合研究所
• 著者所属: 産業技術総合研究所
• 著者所属: 東京大学情報基盤センター
• 著者所属(英): en
• 著者所属(英): Graduate School of Engineering, The University of Tokyo / National Institute of Advanced Industrial Science and Technology
• 著者所属(英): en
• 著者所属(英): National Institute of Advanced Industrial Science and Technology
• 著者所属(英): en
• 著者所属(英): Information Technology Center, The University of Tokyo
• 著者名: 赤沼, 領大; 高野, 了成; 工藤, 知宏
• 著者名(英): Erio, Akanuma; Ryousei, Takano; Tomohiro, Kudoh
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: CNN は現在画像認識をはじめとしたさまざまな処理に用いられているが，その学習には膨大な時間が必要である．そこで処理をデータ並列で並列化による CNN の学習高速化が一般に行われている．しかしこの方式では利用できる並列度がグローバルミニバッチサイズに制限されてしまう．この制限を拡張するために本研究ではデータ並列と CNN のチャネル方向の並列化を導入したモデル並列を併用したハイブリッド並列を提案する．演算時間の予想モデルを構築しデータ並列とハイブリッド並列の比較を行った．
• 書誌レコードID / 収録物識別子タイプ: NCID
• 書誌レコードID / 収録物識別子: AN10463942
• 書誌情報: 研究報告ハイパフォーマンスコンピューティング（HPC）; 巻 2018-HPC-163, 号 16, p. 1-7, 発行日 2018-02-21
• ISSN / 収録物識別子タイプ: ISSN
• ISSN / 収録物識別子: 2188-8841
• Notice: SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc.
• 出版者 / 言語: ja
• 出版者: 情報処理学会