{"metadata":{"_oai":{"id":"oai:ipsj.ixsq.nii.ac.jp:00217234","sets":["1164:2822:10894:10895"]},"path":["10895"],"owner":"44499","recid":"217234","title":["隠れニューラルネットワークに基づく連合学習の通信量削減手法"],"pubdate":{"attribute_name":"公開日","attribute_value":"2022-03-03"},"_buckets":{"deposit":"218e5491-3309-46ef-b599-bef89384418a"},"_deposit":{"id":"217234","pid":{"type":"depid","value":"217234","revision_id":0},"owners":[44499],"status":"published","created_by":44499},"item_title":"隠れニューラルネットワークに基づく連合学習の通信量削減手法","author_link":["562476","562475"],"item_titles":{"attribute_name":"タイトル","attribute_value_mlt":[{"subitem_title":"隠れニューラルネットワークに基づく連合学習の通信量削減手法"}]},"item_keyword":{"attribute_name":"キーワード","attribute_value_mlt":[{"subitem_subject":"ニューラルネットワーク","subitem_subject_scheme":"Other"}]},"item_type_id":"4","publish_date":"2022-03-03","item_4_text_3":{"attribute_name":"著者所属","attribute_value_mlt":[{"subitem_text_value":"東京大学"},{"subitem_text_value":"東京大学"}]},"item_language":{"attribute_name":"言語","attribute_value_mlt":[{"subitem_language":"jpn"}]},"item_publisher":{"attribute_name":"出版者","attribute_value_mlt":[{"subitem_publisher":"情報処理学会","subitem_publisher_language":"ja"}]},"publish_status":"0","weko_shared_id":-1,"item_file_price":{"attribute_name":"Billing file","attribute_type":"file","attribute_value_mlt":[{"url":{"url":"https://ipsj.ixsq.nii.ac.jp/record/217234/files/IPSJ-EMB22059014.pdf","label":"IPSJ-EMB22059014.pdf"},"format":"application/pdf","billing":["billing_file"],"filename":"IPSJ-EMB22059014.pdf","filesize":[{"value":"2.0 MB"}],"mimetype":"application/pdf","priceinfo":[{"tax":["include_tax"],"price":"0","billingrole":"42"},{"tax":["include_tax"],"price":"0","billingrole":"44"}],"accessrole":"open_login","version_id":"51d67d60-01d5-4274-acc3-368ef65d4de4","displaytype":"detail","licensetype":"license_note","license_note":"Copyright (c) 2022 by the Institute of Electronics, Information and Communication Engineers This SIG report is only available to those in membership of the SIG."}]},"item_4_creator_5":{"attribute_name":"著者名","attribute_type":"creator","attribute_value_mlt":[{"creatorNames":[{"creatorName":"筒井, 政成"}],"nameIdentifiers":[{}]},{"creatorNames":[{"creatorName":"高前田, 伸也"}],"nameIdentifiers":[{}]}]},"item_4_source_id_9":{"attribute_name":"書誌レコードID","attribute_value_mlt":[{"subitem_source_identifier":"AA12149313","subitem_source_identifier_type":"NCID"}]},"item_4_textarea_12":{"attribute_name":"Notice","attribute_value_mlt":[{"subitem_textarea_value":"SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc."}]},"item_resource_type":{"attribute_name":"資源タイプ","attribute_value_mlt":[{"resourceuri":"http://purl.org/coar/resource_type/c_18gh","resourcetype":"technical report"}]},"item_4_source_id_11":{"attribute_name":"ISSN","attribute_value_mlt":[{"subitem_source_identifier":"2188-868X","subitem_source_identifier_type":"ISSN"}]},"item_4_description_7":{"attribute_name":"論文抄録","attribute_value_mlt":[{"subitem_description":"連合学習 (Federated Learning) は，エッジデバイスが個人の学習データを他者に開示することなく，協調的に統一モデルを学習する機械学習手法である．データセンターと異なり，エッジデバイスは低帯域な通信環境に置かれていることが多く，これが学習プロセスのボトルネックとなっている．本研究では，この問題に対処するため，宝くじ仮説に基づく新しい連合学習法を提案する．宝くじ仮説に基づくニューラルネットワークは，ランダムに初期化された各重みにスコアを割り当て，重みの利用率を指定するスーパーマスクを得る．スコアのランクが高い重みのみで構成されるサブネットワークを基に順伝播を行い，学習により高い精度を示すサブネットワークを探索する逆伝播を行う．このアルゴリズムは，第一に，その時点でどの重みがサブネットワークに参加しているかを示すスーパーマスクさえあれば，スコアの勾配を計算するためにスコアそのものは必要ないこと，第二に，上位または下位の層のスコアは，学習が進むにつれ動きが小さくなるという特殊な性質を持っている．これらの性質を利用して，本手法では，サーバとスコア全体を通信するのではなく，一部のスーパーマスクと，アクティブと非アクティブの境界付近の重みのスコアの部分集合のみを通信することで，学習過程を妨げずに通信効率を飛躍的に向上させた．CIFAR-10 および CIFAR-100 データセットを用いた実験により，提案手法は全スコアを通信する場合と比較して，通信量を最大 79.8% 削減することに成功した．さらに，提案手法は既存手法と同じ精度を達成しながら，通信コストを最大 69.9% 削減することに成功した．","subitem_description_type":"Other"}]},"item_4_biblio_info_10":{"attribute_name":"書誌情報","attribute_value_mlt":[{"bibliographicPageEnd":"6","bibliographic_titles":[{"bibliographic_title":"研究報告組込みシステム（EMB）"}],"bibliographicPageStart":"1","bibliographicIssueDates":{"bibliographicIssueDate":"2022-03-03","bibliographicIssueDateType":"Issued"},"bibliographicIssueNumber":"14","bibliographicVolumeNumber":"2022-EMB-59"}]},"relation_version_is_last":true,"weko_creator_id":"44499"},"id":217234,"updated":"2025-01-19T15:34:22.192088+00:00","links":{},"created":"2025-01-19T01:17:44.216539+00:00"}