| Item type |
SIG Technical Reports(1) |
| 公開日 |
2023-07-27 |
| タイトル |
|
|
タイトル |
連合学習におけるバックドアの発動遅延によるステルスな学習撹乱 |
| 言語 |
|
|
言語 |
jpn |
| キーワード |
|
|
主題Scheme |
Other |
|
主題 |
スマートNIC・エッジコンピューティング基盤 |
| 資源タイプ |
|
|
資源タイプ識別子 |
http://purl.org/coar/resource_type/c_18gh |
|
資源タイプ |
technical report |
| 著者所属 |
|
|
|
東京大学 |
| 著者所属 |
|
|
|
東京大学 |
| 著者所属 |
|
|
|
東京大学 |
| 著者名 |
筒井, 政成
金子, 竜也
高前田, 伸也
|
| 著者名(英) |
連合学習, (Federated Learning) は，複数のエッジデバイスクライアントが，各々のプライベートな訓練データを他者に開示することなく，代わりにモデルパラメタの共有と統合を繰り返すことで，一つのモデルの学習を進める機械学習手法である．しかし，不特定多数のクライアントが学習に関与するこの手法において，モデルは常に悪意あるクライアントによる攻撃リスクに晒される．特に，特定の特徴をもつ入力に対してだけ推論を誤るようにモデルを改変するバックドア攻撃は重大な脅威とされ，防衛手法も多数研究されている．その中でも，検証用のクライアントが随時モデルの精度を監視し，その異常報告に応じて適宜モデルの状態を巻き戻すフィードバックベースの防衛手法は，プライバシー保護と安全性を両立する堅牢な防衛手法である．本研究では，まず既存の防衛手法を，より合理的な問題設定のもとで発展させたチェック&ロールバック方式を提案する．そして，モデルの異常が攻撃直後に発生する，というフィードバックベースの防衛手法の前提に潜む脆弱性を明らかにするため，新たな学習妨害攻撃手法を提案する．それは，モデルの異常発生までに，敢えて遅延が生じるような攻撃を行うことで，隠密に学習の撹乱を引き起こす攻撃手法である.本攻撃手法の提案をもって，連合学習のバックドア攻撃における新たな防衛手法の必要性を示す．
| en |
連合学習, (Federated Learning) は，複数のエッジデバイスクライアントが，各々のプライベートな訓練データを他者に開示することなく，代わりにモデルパラメタの共有と統合を繰り返すことで，一つのモデルの学習を進める機械学習手法である．しかし，不特定多数のクライアントが学習に関与するこの手法において，モデルは常に悪意あるクライアントによる攻撃リスクに晒される．特に，特定の特徴をもつ入力に対してだけ推論を誤るようにモデルを改変するバックドア攻撃は重大な脅威とされ，防衛手法も多数研究されている．その中でも，検証用のクライアントが随時モデルの精度を監視し，その異常報告に応じて適宜モデルの状態を巻き戻すフィードバックベースの防衛手法は，プライバシー保護と安全性を両立する堅牢な防衛手法である．本研究では，まず既存の防衛手法を，より合理的な問題設定のもとで発展させたチェック&ロールバック方式を提案する．そして，モデルの異常が攻撃直後に発生する，というフィードバックベースの防衛手法の前提に潜む脆弱性を明らかにするため，新たな学習妨害攻撃手法を提案する．それは，モデルの異常発生までに，敢えて遅延が生じるような攻撃を行うことで，隠密に学習の撹乱を引き起こす攻撃手法である.本攻撃手法の提案をもって，連合学習のバックドア攻撃における新たな防衛手法の必要性を示す．
|
Search repository
|
| 書誌レコードID |
|
|
収録物識別子タイプ |
NCID |
|
収録物識別子 |
AN10096105 |
| 書誌情報 |
研究報告システム・アーキテクチャ（ARC）
巻 2023-ARC-254,
号 33,
p. 1-6,
発行日 2023-07-27
|
| ISSN |
|
|
収録物識別子タイプ |
ISSN |
|
収録物識別子 |
2188-8574 |
| Notice |
|
|
|
SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc. |
| 出版者 |
|
|
言語 |
ja |
|
出版者 |
情報処理学会 |
IPSJ-ARC23254033.pdf (1.6 MB)
