WEKO3
アイテム
PyTorch深層学習フレームワークにおける分散学習向けノード内通信バックエンドの予備的性能評価
https://ipsj.ixsq.nii.ac.jp/records/227131
https://ipsj.ixsq.nii.ac.jp/records/2271319380d057-2d7b-48c5-92f6-c22283eb2b1d
| 名前 / ファイル | ライセンス | アクション |
|---|---|---|
IPSJ-HPC23190020.pdf (1.2 MB)
2025年7月27日からダウンロード可能です。
|
Copyright (c) 2023 by the Information Processing Society of Japan
|
|
| 非会員：¥660, IPSJ:学会員：¥330, HPC:会員：¥0, DLIB:会員：¥0 | ||
| Item type | SIG Technical Reports(1) | |||||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 公開日 | 2023-07-27 | |||||||||||||
| タイトル | ||||||||||||||
| タイトル | PyTorch深層学習フレームワークにおける分散学習向けノード内通信バックエンドの予備的性能評価 | |||||||||||||
| 言語 | ||||||||||||||
| 言語 | jpn | |||||||||||||
| キーワード | ||||||||||||||
| 主題Scheme | Other | |||||||||||||
| 主題 | 通信・分散処理 | |||||||||||||
| 資源タイプ | ||||||||||||||
| 資源タイプ識別子 | http://purl.org/coar/resource_type/c_18gh | |||||||||||||
| 資源タイプ | technical report | |||||||||||||
| 著者所属 | ||||||||||||||
| 富士通株式会社 | ||||||||||||||
| 著者所属 | ||||||||||||||
| 富士通株式会社 | ||||||||||||||
| 著者所属 | ||||||||||||||
| 富士通株式会社 | ||||||||||||||
| 著者所属 | ||||||||||||||
| 富士通株式会社 | ||||||||||||||
| 著者所属(英) | ||||||||||||||
| en | ||||||||||||||
| Fujitsu Limited | ||||||||||||||
| 著者所属(英) | ||||||||||||||
| en | ||||||||||||||
| Fujitsu Limited | ||||||||||||||
| 著者所属(英) | ||||||||||||||
| en | ||||||||||||||
| Fujitsu Limited | ||||||||||||||
| 著者所属(英) | ||||||||||||||
| en | ||||||||||||||
| Fujitsu Limited | ||||||||||||||
| 著者名 |
廣田, 祐輔
× 廣田, 祐輔
× 松本, 幸
× 畑中, 正行
× 二宮, 温
|
|||||||||||||
| 論文抄録 | ||||||||||||||
| 内容記述タイプ | Other | |||||||||||||
| 内容記述 | 近年，スパコンの大規模性を利用した深層学習フレームワークによる AI を組み合わせた HPC 研究が盛んになっている．こうした深層学習フレームワークは進展著しく，複雑化・急拡大を遂げている中で，スパコン上で最適化を並行して進めることのみならず，最新に追随するためのフレームワークの基本構築でさえ，利用者の大きな負担となってきている．本稿では，導入容易な conda パッケージ群で提供される PyTorch における，分散学習の通信バックエンドに焦点を当て基本特性について分析する．加えて，プロセッサのチップレット等によるメニーコア化に伴い重要となるノード内通信での性能改善についても報告する． | |||||||||||||
| 書誌レコードID | ||||||||||||||
| 収録物識別子タイプ | NCID | |||||||||||||
| 収録物識別子 | AN10463942 | |||||||||||||
| 書誌情報 |
研究報告ハイパフォーマンスコンピューティング（HPC） 巻 2023-HPC-190, 号 20, p. 1-10, 発行日 2023-07-27 |
|||||||||||||
| ISSN | ||||||||||||||
| 収録物識別子タイプ | ISSN | |||||||||||||
| 収録物識別子 | 2188-8841 | |||||||||||||
| Notice | ||||||||||||||
| SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc. | ||||||||||||||
| 出版者 | ||||||||||||||
| 言語 | ja | |||||||||||||
| 出版者 | 情報処理学会 | |||||||||||||
