OS-ELMを用いたオンライン逐次型グラフ分散表現学習法

• Item type: SIG Technical Reports(1)
• 公開日: 2023-03-16
• タイトル: OS-ELMを用いたオンライン逐次型グラフ分散表現学習法
• タイトル / 言語: en
• タイトル: An Online Sequential Graph Distributed Representation Learning Method using OS-ELM
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: 深層学習
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_18gh
• 資源タイプ: technical report
• 著者所属: 慶應義塾大学大学院理工学研究科
• 著者所属: 慶應義塾大学大学院理工学研究科
• 著者所属(英): en
• 著者所属(英): Graduate School of Science and Technology, Keio University
• 著者所属(英): en
• 著者所属(英): Graduate School of Science and Technology, Keio University
• 著者名: 伊藤, 響; 松谷, 宏紀
• 著者名(英): Hibiki, Ito; Hiroki, Matsutani
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: グラフのデータ構造を持つデータを扱う際には隣接行列として読み込んで利用することが一般的であるが，グラフ中の各ノードを分散表現と呼ばれるベクトルに変換して利用することも提案されている．分散表現を学習する過程においてグラフ中のノードの接続状況を考慮したデータが使用されるため，得られる分散表現はそれらが表す各ノードの特徴を表現したものとなっている．そのため，分散表現同士で演算を行ったり，機械学習アルゴリズムに掛けることで，情報を抽出することが可能である．しかし，現状のグラフ分散表現学習法ではバッチ学習を行っているため，データ傾向がドリフトしてしまう実世界のグラフデータの学習には適していないと考えられる．そこで本論文では，OS-ELM というオンライン逐次学習アルゴリズムを用いたグラフ分散表現学習のオンライン学習化を提案する．また，学習を高速化するため，Negative Sampling と呼ばれる高速化手法も組み合わせることも提案する．これらの手法の組み合わせにより，データ傾向が変化した場合においてもモデル破棄の必要が無く，変化を素早く捉えたグラフ分散表現の学習が可能となる．また，分散表現の利用やオンライン学習化によってメモリ使用量も削減される．評価結果から，Negative Sampling 適用後においてもメモリ使用量は 54.4% 削減可能であることがわかった．また，学習は 8.44 倍高速化できた．精度についてもオリジナルと同程度となることがわかった．
• 書誌レコードID / 収録物識別子タイプ: NCID
• 書誌レコードID / 収録物識別子: AA11451459
• 書誌情報: 研究報告システムとLSIの設計技術（SLDM）; 巻 2023-SLDM-202, 号 30, p. 1-6, 発行日 2023-03-16
• ISSN / 収録物識別子タイプ: ISSN
• ISSN / 収録物識別子: 2188-8639
• Notice: SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc.
• 出版者 / 言語: ja
• 出版者: 情報処理学会