Batched Kernel APIを用いるOpenMPタスク生成

• Item type: SIG Technical Reports(1)
• 公開日: 2019-07-17
• タイトル: Batched Kernel APIを用いるOpenMPタスク生成
• タイトル / 言語: en
• タイトル: OpenMP Task Generation for Batched Kernel APIs
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: タスク並列
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_18gh
• 資源タイプ: technical report
• 著者所属: 理化学研究所計算科学研究センター
• 著者所属: 筑波大学大学院システム情報工学研究科
• 著者所属: 理化学研究所計算科学研究センター／現在，筑波大学大学院システム情報工学研究科
• 著者所属(英): en
• 著者所属(英): RIKEN R-CCS Center for Computational Science
• 著者所属(英): en
• 著者所属(英): Uniersity of Tsukuba Graduate School of Systems and Information Engineering
• 著者所属(英): en
• 著者所属(英): RIKEN R-CCS Center for Computational Science / Presently with Uniersity of Tsukuba Graduate School of Systems and Information Engineering
• 著者名: 李, 珍泌; 渡部, 裕; 佐藤, 三久
• 著者名(英): Jinpil, Lee; Yutaka, Watanabe; Mitsuhisa, Sato
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: 従来の数値計算を行う HPC アプリケーションや近年注目を集めているディープラーニングの分野では独立した小さい計算カーネルを高いスループットで並列処理する技術が活発に研究されている．BLAS カーネルの並列処理を簡単に記述するため，複数の計算カーネルをまとめて一つの API で処理する Batched Kernel API が提案されている．GPU などのメニーコアアーキテクチャは高い電力効率を達成できるが，Batched Kernel API を使うには手動のコード変換が必要である．本研究では OpenMP のタスクプログラミングモデルで Batched Kernel API を利用するコード変換技術の提案を行う．ユーザは数値計算のカーネルを task 指示文で記述する．処理系にはバッチ化できる API が事前に登録されており，そのような計算カーネルが複数並列に実行できるときはバッチ化を行う．NVIDIA GPU 向け cuBLAS を用いてバッチ化を行うプロトタイプ処理系を実装した．DGEMM カーネルを呼び出すタスクを処理系が検知し，Batched DGEMM API に変換する．Blocked Cholesky Decomposition を用いた性能評価では処理系によって複数の DGEMM カーネルがバッチ化されることが確認できた．DGEMM のみの計算性能は行列 4096×4096，小行列 128 のケースで逐次実行の 4 倍に高速化されるが，OpenMP のタスクやバッチの処理のオーバーヘッドのため，全体性能は 36% 向上する．
• 書誌レコードID / 収録物識別子タイプ: NCID
• 書誌レコードID / 収録物識別子: AN10463942
• 書誌情報: 研究報告ハイパフォーマンスコンピューティング（HPC）; 巻 2019-HPC-170, 号 26, p. 1-8, 発行日 2019-07-17
• ISSN / 収録物識別子タイプ: ISSN
• ISSN / 収録物識別子: 2188-8841
• Notice: SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc.
• 出版者 / 言語: ja
• 出版者: 情報処理学会