メタ学習に基づくFew-Shot分類に対するバックドアポイズニング攻撃

• Item type: SIG Technical Reports(1)
• 公開日: 2022-03-03
• タイトル: メタ学習に基づくFew-Shot分類に対するバックドアポイズニング攻撃
• タイトル / 言語: en
• タイトル: Backdoor Poisoning Attacks on Meta-Learned Few-Shot Classifiers
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: 攻撃検知・機械学習セキュリティ
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_18gh
• 資源タイプ: technical report
• 著者所属: 豊橋技術科学大学大学院工学研究科
• 著者所属: 山形大学AIデザイン教育研究推進センター／山形大学大学院理工学研究科
• 著者所属: 豊橋技術科学大学大学院工学研究科
• 著者所属(英): en
• 著者所属(英): Department of Computer Science and Engineering, Toyohashi University of Technology
• 著者所属(英): en
• 著者所属(英): AI Design Education and Research Promotion Center, Yamagata University / Graduate School of Science and Engineering, Yamagata University
• 著者所属(英): en
• 著者所属(英): Department of Computer Science and Engineering, Toyohashi University of Technology
• 著者名: 加藤, 頑馬; 高橋, 茶子; 鈴木, 幸太郎
• 著者名(英): Ganma, Kato; Chako, Takahashi; Koutarou, Suzuki
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: 教師データが少ない状況での分類は few-shot 分類と呼ばれ，その主要な実現方法の一つにメタ学習 (meta-learning) が知られている．Few-shot分類はさまざまな分野で実応用が検討され始めているが，敵対的攻撃や防御策についてはまだ十分に調べられていない．特に，メタ学習に基づく few-shot 分類に対するポイズニング攻撃についての研究は始まって間もなく，可用性の侵害を目的としたポイズニングについては Xu et al. [1] および Oldewage et al. [2] によって調べられているものの，完全性の侵害を目的としたバックドアポイズニングについては Oldewage et al. [2] によって限られた条件での簡易的な評価が行われているのみである．本研究では，メタ学習に基づく few-shot 分類において完全性の侵害を目的とするバックドアポイズニング攻撃を定式化する．実験により，model-agnostic meta-learning (MAML)[3] を用いたメタ学習による few-shot 分類に対してバックドアポイズニング攻撃が有効であることを確認した．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: Few-shot classification is the classification with only a few samples, and meta-learning methods are often employed to solve it. Research on poisoning attacks against meta-learning-based few-shot classification is now in the very beginning. While poisoning to violate classifier's availability in meta-testing has been investigated in Xu et al. [1] and Oldewage et al. [2], backdoor poisoning in meta-testing has only been briefly evaluated by Oldewage et al. [2] under limited conditions. In this study, we formulate a backdoor poisoning attack on meta-learning-based few-shot classification. We show that the proposed backdoor poisoning attack is effective against the few-shot classification using model-agnostic meta-learning (MAML) [3] through experiments.
• 書誌レコードID / 収録物識別子タイプ: NCID
• 書誌レコードID / 収録物識別子: AN10116224
• 書誌情報: 研究報告マルチメディア通信と分散処理（DPS）; 巻 2022-DPS-190, 号 8, p. 1-7, 発行日 2022-03-03
• ISSN / 収録物識別子タイプ: ISSN
• ISSN / 収録物識別子: 2188-8906
• Notice: SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc.
• 出版者 / 言語: ja
• 出版者: 情報処理学会