Strong Scalingを考慮したCUDAプログラミング手法についての考察

• Item type: SIG Technical Reports(1)
• 公開日: 2016-09-08
• タイトル: Strong Scalingを考慮したCUDAプログラミング手法についての考察
• タイトル / 言語: en
• タイトル: A Study of a Strong Scale Aware CUDA Programming Technique
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: HPCシステム
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_18gh
• 資源タイプ: technical report
• 著者所属: 日本アイ・ビー・エム株式会社東京基礎研究所
• 著者所属(英): en
• 著者所属(英): IBM Research - Tokyo
• 著者名: 土井, 淳
• 著者名(英): Jun, Doi
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: GPU のようなアクセラレーターを利用したクラスターは HPC 分野において大きな勢力となりつつある．これらのアクセラレーターを利用するためには，ホスト CPU から，アクセラレーターを制御する必要があり，ホスト側の CPU においてもそれなりの負荷が発生する．CUDA プログラミングにおいて GPU とのデータ転送やカーネル実行は非同期で行うことが可能であり，その際ホスト側の CPU の処理はブロックされない．しかしながら，データ転送やカーネル実行の際に，CPU 側で準備のオーバーヘッドが生じ，この部分は非同期ではない．一般的な CUDA プログラミングの最適化手法として，これらのオーバーヘッドを相対的に無視するために，できるだけ大きな問題を GPU で処理することが推奨されている．しかしながら，問題サイズを大きくできる状況は限られており，複数の GPU や複数ノードを利用した並列計算においては，特に strong scaling を考えると問題サイズは並列数に反比例して小さくなり，相対的に CUDA のオーバーヘッドが増大し性能低下の原因となる．また，将来的に CPU-GPU 間の転送速度が速くなったり，GPU の処理速度が上がった場合にも，同様に相対的なオーバーヘッドは増大してしまう．本発表では，CUDA のオーバーヘッドを隠蔽することで，strong scaling 時の性能低下を抑制する手法について検討し，格子 QCD を例に OpenPOWER クラスター上での性能比較を行った結果を紹介する．
• 書誌レコードID / 収録物識別子タイプ: NCID
• 書誌レコードID / 収録物識別子: AN10463942
• 書誌情報: 研究報告ハイパフォーマンスコンピューティング（HPC）; 巻 2016-HPC-156, 号 14, p. 1-7, 発行日 2016-09-08
• ISSN / 収録物識別子タイプ: ISSN
• ISSN / 収録物識別子: 2188-8841
• Notice: SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc.
• 出版者 / 言語: ja
• 出版者: 情報処理学会