WEKO3
アイテム
マルチFPGA上でのVision Transformerの並列実装
https://ipsj.ixsq.nii.ac.jp/records/223481
https://ipsj.ixsq.nii.ac.jp/records/223481bfe1043c-05c7-4bf8-8b91-3d505521c4b7
| 名前 / ファイル | ライセンス | アクション |
|---|---|---|
IPSJ-SLDM23201006.pdf (1.3 MB)
|
Copyright (c) 2023 by the Information Processing Society of Japan
|
|
| オープンアクセス | ||
| Item type | SIG Technical Reports(1) | |||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 公開日 | 2023-01-16 | |||||||||||
| タイトル | ||||||||||||
| タイトル | マルチFPGA上でのVision Transformerの並列実装 | |||||||||||
| タイトル | ||||||||||||
| 言語 | en | |||||||||||
| タイトル | Parallel Implementation of Vision Transformer on Multi FPGA | |||||||||||
| 言語 | ||||||||||||
| 言語 | jpn | |||||||||||
| キーワード | ||||||||||||
| 主題Scheme | Other | |||||||||||
| 主題 | 設計技術 | |||||||||||
| 資源タイプ | ||||||||||||
| 資源タイプ識別子 | http://purl.org/coar/resource_type/c_18gh | |||||||||||
| 資源タイプ | technical report | |||||||||||
| 著者所属 | ||||||||||||
| 慶應義塾大学 | ||||||||||||
| 著者所属 | ||||||||||||
| 慶應義塾大学 | ||||||||||||
| 著者所属 | ||||||||||||
| 慶應義塾大学 | ||||||||||||
| 著者所属(英) | ||||||||||||
| en | ||||||||||||
| Keio University | ||||||||||||
| 著者所属(英) | ||||||||||||
| en | ||||||||||||
| Keio University | ||||||||||||
| 著者所属(英) | ||||||||||||
| en | ||||||||||||
| Keio University | ||||||||||||
| 著者名 |
福嶋, 泰優
× 福嶋, 泰優
× 飯塚, 健介
× 天野, 英晴
|
|||||||||||
| 論文抄録 | ||||||||||||
| 内容記述タイプ | Other | |||||||||||
| 内容記述 | 我々の研究室では，M-KUBOS と呼ばれる価格性能比に優れた Zynq ボード複数枚から構成されるマルチ FPGA システムである，M-KUBOS クラスタを開発している．M-KUBOS クラスタは，5G モバイルネットワーク向けのマルチアクセスエッジコンピューティング（MEC）のサーバとしての利用が期待されており，近年需要が高まっている深層学習のように計算量，パラメータ数が膨大な処理を高性能，高電力効率で実行できることが求められる．深層学習の中でも，Vision Transformer（ViT）は，画像認識タスクにおいて畳み込み演算を用いずに高い認識精度を達成したことで注目されているが，その計算量とパラメータ数は非常に膨大であり，M-KUBOS クラスタで用いられているようなミドルエンドの FPGA 単体で高性能を達成することは困難である．そこで本研究では，M-KUBOS クラスタの FPGA 複数枚を用いて ViT の推論アクセラレータを実装した．ボード間パイプライン処理によって，使用する FPGA ボードの枚数に応じた線形的な性能向上を実現し，本実装は最大で 704GOPS の性能と 12.4GOPS/W の電力効率を達成した． | |||||||||||
| 書誌レコードID | ||||||||||||
| 収録物識別子タイプ | NCID | |||||||||||
| 収録物識別子 | AA11451459 | |||||||||||
| 書誌情報 |
研究報告システムとLSIの設計技術（SLDM） 巻 2023-SLDM-201, 号 6, p. 1-10, 発行日 2023-01-16 |
|||||||||||
| ISSN | ||||||||||||
| 収録物識別子タイプ | ISSN | |||||||||||
| 収録物識別子 | 2188-8639 | |||||||||||
| Notice | ||||||||||||
| SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc. | ||||||||||||
| 出版者 | ||||||||||||
| 言語 | ja | |||||||||||
| 出版者 | 情報処理学会 | |||||||||||
