2024-03-29T01:27:40Zhttps://ipsj.ixsq.nii.ac.jp/ej/?action=repository_oaipmhoai:ipsj.ixsq.nii.ac.jp:001983912023-04-27T10:00:04Z01164:01579:09681:09863
ネットワーク接続型GPUを用いたR-GCNの分散処理A Distributed Processing of R-GCN using Network-attached CPUsjpnGPUhttp://id.nii.ac.jp/1001/00198301/Technical Reporthttps://ipsj.ixsq.nii.ac.jp/ej/?action=repository_action_common_download&item_id=198391&item_no=1&attribute_id=1&file_no=1Copyright (c) 2019 by the Institute of Electronics, Information and Communication Engineers This SIG report is only available to those in membership of the SIG.慶應義塾大学大学院理工学研究科慶應義塾大学大学院理工学研究科木畑, 登樹夫松谷, 宏紀ナレッジ ・ベースを表す関係グラフデータは,ソーシャルネットワークのデータ収集など,様々なアプリケーションで用いられている.関係グラフデータは,各ノードのみならず,エッジも各ノードのつながりを表す属性を持つ.R-GCN (関係グラフ畳み込みネットワーク) は,関係グラフデータに対しグラフ畳み込みネットワークを応用し有用性を示した.しかし,各エッジタイプごとに 1つの重み行列を与えるため,エッジタイプの数に応じてパラメーター数が増加し,モデルが肥大化してしまう.その結果,メモリ容量の問題から,機械学習や深層学習において学習の高速化を実現するには欠かせない GPU (Graphics Processing Unit) の活用が現状では制限されていた.本研究は,R-GCN に対して,同じエッジタイプを持つエッジ群ごとにサブグラフヘ振り分ける,エッジタイプ指向のグラフ分割を提案した.エッジタイプ指向のグラフ分割をすることで,それぞれのエッジタイプに対応する重み行列を一意のサブモデルヘ分割できる.つまり,エッジタイプ指向の分割はグラフのバッチ化とモデルの分割を同時に効率的に実行する.その結果,複数 GPU を用いた並列処理を可能にし高速化を実現した.また,グラフの規模や特性に応じて必要な GPU 数が増加していくことが予想されるため,PCI-Express over Ethernet 技術を用いて GPU を Ethernet 経由で接続するネットワーク接続型 GPU によって単一マシンに接続可能な GPU 数の拡張する手法を検討する.AN10096105研究報告システム・アーキテクチャ(ARC)2019-ARC-23716162019-07-172188-85742019-07-16