非中央集権型向けのモデル更新履歴を用いた連合学習手法および実用的なフレームワークの設計

• Item type: SIG Technical Reports(1)
• 公開日: 2023-03-08
• タイトル: 非中央集権型向けのモデル更新履歴を用いた連合学習手法および実用的なフレームワークの設計
• タイトル / 言語: en
• タイトル: A federated learning using model update history and a design of a practical framework for decentralized systems
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: IOTセッション
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_18gh
• 資源タイプ: technical report
• 著者所属: 東京大学
• 著者所属: 東京大学
• 著者所属: 東京大学
• 著者所属: 東京大学
• 著者所属: 東京大学
• 著者所属(英): en
• 著者所属(英): The University of Tokyo
• 著者所属(英): en
• 著者所属(英): The University of Tokyo
• 著者所属(英): en
• 著者所属(英): The University of Tokyo
• 著者所属(英): en
• 著者所属(英): The University of Tokyo
• 著者所属(英): en
• 著者所属(英): The University of Tokyo
• 著者名: 金森, 勇介; 山﨑, 雄輔; 細合, 晋太郎; 中村, 宏; 高瀬, 英希
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: プライバシー保護の観点から，個人情報など元データはやりとりせずに各デバイスからのモデルを統合する機械学習技術である連合学習に注目が集まっている．本研究では，非同期にモデルが統合されデバイスの接続構造が非中央集権型である連合学習について，効率的かつ実用的な技術の確立を目指す．まず，モデルの更新履歴を用いた連合学習手法を提案する．各ラウンドのモデルの統合段階において，前回のモデル統合時と比べて更新があったモデルのみを用いてモデルを統合する．これによって，古いモデルとの統合による学習の遅れを防ぎ，より効率的なモデルの統合が期待される．また，非同期式・非中央集権型の連合学習においては学習と統合の順序が任意であることに着目し，順序の違いが学習に及ぼす影響を考慮したアルゴリズムを提案する．次に，実機への応用性で強みを持つ Flower を拡張し，非同期式・非中央集権型の連合学習に対応した実用的なフレームワークを設計する．Flower が採用している gRPC を用いて効率的な通信が実現でき，中央サーバにあたるものを配置せずに実機への拡張ができることが期待される．提案手法についての評価を行い，更新履歴を用いたモデル統合が有効であることを示した．統合と学習の順序については，条件設定に応じて優位となる順序が異なることを示した．
• 書誌レコードID / 収録物識別子タイプ: NCID
• 書誌レコードID / 収録物識別子: AA12326962
• 書誌情報: 研究報告インターネットと運用技術（IOT）; 巻 2023-IOT-60, 号 5, p. 1-8, 発行日 2023-03-08
• ISSN / 収録物識別子タイプ: ISSN
• ISSN / 収録物識別子: 2188-8787
• Notice: SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc.
• 出版者 / 言語: ja
• 出版者: 情報処理学会