高効率的なデータ処理の実現に向けたGPUの自律駆動方式に関する検討

• Item type: SIG Technical Reports(1)
• 公開日: 2024-08-01
• タイトル: 高効率的なデータ処理の実現に向けたGPUの自律駆動方式に関する検討
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: 並列計算
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_18gh
• 資源タイプ: technical report
• 著者所属: NTTソフトウェアイノベーションセンタ
• 著者所属: NTTソフトウェアイノベーションセンタ
• 著者所属: NTTソフトウェアイノベーションセンタ
• 著者名: 仙田, 学; 西山, 達也; 石崎, 晃朗
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: 本研究では，アクセラレータを主体とした効率的な演算処理を可能とする，GPU の自律駆動方式について提案する．そして，対向アクセラレータを CPU で模擬し，PyTorch を用いた深層学習の推論処理を対象とした評価を通じて，本提案がデータ処理システムの消費電力や遅延時間の削減に有効であることを示す．近年 AI や IoT の普及に伴うシステムの大規模化やユースケースの高度化により，データ処理システムに消費電力と遅延時間の双方の削減が求められている．これらの要求の充足には，特定の処理を効率的に実行可能な GPU 等のアクセラレータの利用が必須である．また，更なる高効率化・大規模化のため，複数のアクセラレータを組み合わせたデータ処理システムの導入が進みつつある．しかしながら，従来のソフトウェアは，データ処理全体を CPU が制御する事を前提としたプログラム構造をとっている．そのため，複数アクセラレータに跨るデータ処理を実行する際に，本来の演算に必要のない CPU を介することになり，そのデータ移動に伴う遅延時間の増加や処理オーバーヘッドによる電力消費量の増加が課題となる．この課題を解決するため，従来 CPU が集中的に行っていたデータ処理の制御を個々の GPU にオフローディングし，CPU を介さずに GPU が自律的にデータの転送制御と処理を実行できる方式を提案する．
• 書誌レコードID / 収録物識別子タイプ: NCID
• 書誌レコードID / 収録物識別子: AN10463942
• 書誌情報: 研究報告ハイパフォーマンスコンピューティング（HPC）; 巻 2024-HPC-195, 号 29, p. 1-6, 発行日 2024-08-01
• ISSN / 収録物識別子タイプ: ISSN
• ISSN / 収録物識別子: 2188-8841
• Notice: SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc.
• 出版者 / 言語: ja
• 出版者: 情報処理学会