WEKO3
アイテム
フォグコンピューティングを活用したサーバクライアント間双方向知識蒸留を用いる連合学習手法F2MKD
https://ipsj.ixsq.nii.ac.jp/records/219006
https://ipsj.ixsq.nii.ac.jp/records/219006411822b2-3fa4-4014-b195-b63e2ac4d2b1
| 名前 / ファイル | ライセンス | アクション |
|---|---|---|
IPSJ-ARC22249017.pdf (1.1 MB)
|
Copyright (c) 2022 by the Information Processing Society of Japan
|
|
| オープンアクセス | ||
| Item type | SIG Technical Reports(1) | |||||||||
|---|---|---|---|---|---|---|---|---|---|---|
| 公開日 | 2022-07-20 | |||||||||
| タイトル | ||||||||||
| タイトル | フォグコンピューティングを活用したサーバクライアント間双方向知識蒸留を用いる連合学習手法F2MKD | |||||||||
| 言語 | ||||||||||
| 言語 | jpn | |||||||||
| キーワード | ||||||||||
| 主題Scheme | Other | |||||||||
| 主題 | AI技術 | |||||||||
| 資源タイプ | ||||||||||
| 資源タイプ識別子 | http://purl.org/coar/resource_type/c_18gh | |||||||||
| 資源タイプ | technical report | |||||||||
| 著者所属 | ||||||||||
| 東京大学 | ||||||||||
| 著者所属 | ||||||||||
| 東京大学 | ||||||||||
| 著者所属(英) | ||||||||||
| en | ||||||||||
| The University of Tokyo | ||||||||||
| 著者所属(英) | ||||||||||
| en | ||||||||||
| The University of Tokyo | ||||||||||
| 著者名 |
山﨑, 雄輔
× 山﨑, 雄輔
× 高瀬, 英希
|
|||||||||
| 論文抄録 | ||||||||||
| 内容記述タイプ | Other | |||||||||
| 内容記述 | スマート社会の実現には，データの秘匿性の担保や無線多重アクセスにより生じる通信オーバーヘッドの課題から，中央サーバでのデータ収集にこだわらず，分散保持されたデータを活用することが必要である．連合学習（Federated Learning，FL）は，プライバシー保護と通信効率に優れた分散学習を実現する有望な技術である．FL に関する既存研究の多くは，全クライアントに対して共通のグローバルモデルを提供する．しかし，単一のグローバルモデルが多様なクライアントの環境に適応することは困難であり，特に，大規模なクライアント集団においてこれは顕著となる．そこで，中央サーバと各クライアントがそれぞれ異なるモデルを保持しつつ，フォグコンピューティングを活用し双方向の知識蒸留を行う新たな FL のフレームワークである Fog-enabled Federated learning with Mutual Knowledge Distillation（F2MKD）を提案する．フォグサーバが接続されたクライアントからデータを収集可能という前提のもとで，従来の加重平均に代わり，知識蒸留に基づくモデル統合を実現する．知識蒸留を活用することで，F2MKD はクライアントの仕様やローカル環境に応じた多様な個別のモデルと，汎用的なグローバルモデルの双方を提供することができる．さらに，フォグサーバ上での双方向の知識蒸留により，クライアント側の計算負荷を軽減し，リソースに制約のあるクライアントも FL に参加可能となる．シミュレーション評価により，クライアントの保持するデータの統計的属性がフォグサーバの地理的位置と強く関連付けられている場合に，F2MKD はクライアントモデルの性能を著しく向上させることを示した．本研究は，クライアントに寄り添った分散機械学習のための新たな道を開くと考える． | |||||||||
| 書誌レコードID | ||||||||||
| 収録物識別子タイプ | NCID | |||||||||
| 収録物識別子 | AN10096105 | |||||||||
| 書誌情報 |
研究報告システム・アーキテクチャ（ARC） 巻 2022-ARC-249, 号 17, p. 1-8, 発行日 2022-07-20 |
|||||||||
| ISSN | ||||||||||
| 収録物識別子タイプ | ISSN | |||||||||
| 収録物識別子 | 2188-8574 | |||||||||
| Notice | ||||||||||
| SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc. | ||||||||||
| 出版者 | ||||||||||
| 言語 | ja | |||||||||
| 出版者 | 情報処理学会 | |||||||||
