WEKO3
アイテム
GPUとA64FXにおけるTransformerの性能比較
https://ipsj.ixsq.nii.ac.jp/records/225152
https://ipsj.ixsq.nii.ac.jp/records/2251529d915c3a-5430-49fe-8738-3931b8a71b49
| 名前 / ファイル | ライセンス | アクション |
|---|---|---|
|
|
Copyright (c) 2023 by the Information Processing Society of Japan
|
|
| オープンアクセス | ||
| Item type | SIG Technical Reports(1) | |||||||||
|---|---|---|---|---|---|---|---|---|---|---|
| 公開日 | 2023-03-09 | |||||||||
| タイトル | ||||||||||
| タイトル | GPUとA64FXにおけるTransformerの性能比較 | |||||||||
| 言語 | ||||||||||
| 言語 | jpn | |||||||||
| キーワード | ||||||||||
| 主題Scheme | Other | |||||||||
| 主題 | 機械学習 | |||||||||
| 資源タイプ | ||||||||||
| 資源タイプ識別子 | http://purl.org/coar/resource_type/c_18gh | |||||||||
| 資源タイプ | technical report | |||||||||
| 著者所属 | ||||||||||
| 東京工業大学 | ||||||||||
| 著者所属 | ||||||||||
| 東京工業大学 | ||||||||||
| 著者所属(英) | ||||||||||
| en | ||||||||||
| Tokyo Institute of Technology | ||||||||||
| 著者所属(英) | ||||||||||
| en | ||||||||||
| Tokyo Institute of Technology | ||||||||||
| 著者名 |
中村, 秋海
× 中村, 秋海
× 横田, 理央
|
|||||||||
| 論文抄録 | ||||||||||
| 内容記述タイプ | Other | |||||||||
| 内容記述 | 深層学習において現在最も重要なニューラルネットアーキテクチャは Transformer であり,近年は自然言語処理のみならず,画像処理分野でも多く用いられている.プロセッサの性能を評価する上で Transformer の学習速度は重要な指標である.本研究では NVIDIA A100 GPU と富岳の A64FX 上で Transformer の学習速度やその計算時間の内訳を計測し,性能向上の可能性を検討する. | |||||||||
| 書誌レコードID | ||||||||||
| 収録物識別子タイプ | NCID | |||||||||
| 収録物識別子 | AN10463942 | |||||||||
| 書誌情報 |
研究報告ハイパフォーマンスコンピューティング(HPC) 巻 2023-HPC-188, 号 8, p. 1-7, 発行日 2023-03-09 |
|||||||||
| ISSN | ||||||||||
| 収録物識別子タイプ | ISSN | |||||||||
| 収録物識別子 | 2188-8841 | |||||||||
| Notice | ||||||||||
| SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc. | ||||||||||
| 出版者 | ||||||||||
| 言語 | ja | |||||||||
| 出版者 | 情報処理学会 | |||||||||