2026-03-15T10:58:13Z https://ipsj.ixsq.nii.ac.jp/oai

oai:ipsj.ixsq.nii.ac.jp:00216992 2025-01-19T15:39:53Z 1164:2836:10841:10842

メタ学習に基づくFew-Shot分類に対するバックドアポイズニング攻撃 Backdoor Poisoning Attacks on Meta-Learned Few-Shot Classifiers 加藤, 頑馬 高橋, 茶子 鈴木, 幸太郎 Ganma, Kato Chako, Takahashi Koutarou, Suzuki 攻撃検知・機械学習セキュリティ 教師データが少ない状況での分類は few-shot 分類と呼ばれ，その主要な実現方法の一つにメタ学習 (meta-learning) が知られている．Few-shot分類はさまざまな分野で実応用が検討され始めているが，敵対的攻撃や防御策についてはまだ十分に調べられていない．特に，メタ学習に基づく few-shot 分類に対するポイズニング攻撃についての研究は始まって間もなく，可用性の侵害を目的としたポイズニングについては Xu et al. [1] および Oldewage et al. [2] によって調べられているものの，完全性の侵害を目的としたバックドアポイズニングについては Oldewage et al. [2] によって限られた条件での簡易的な評価が行われているのみである．本研究では，メタ学習に基づく few-shot 分類において完全性の侵害を目的とするバックドアポイズニング攻撃を定式化する．実験により，model-agnostic meta-learning (MAML)[3] を用いたメタ学習による few-shot 分類に対してバックドアポイズニング攻撃が有効であることを確認した． Few-shot classification is the classification with only a few samples, and meta-learning methods are often employed to solve it. Research on poisoning attacks against meta-learning-based few-shot classification is now in the very beginning. While poisoning to violate classifier's availability in meta-testing has been investigated in Xu et al. [1] and Oldewage et al. [2], backdoor poisoning in meta-testing has only been briefly evaluated by Oldewage et al. [2] under limited conditions. In this study, we formulate a backdoor poisoning attack on meta-learning-based few-shot classification. We show that the proposed backdoor poisoning attack is effective against the few-shot classification using model-agnostic meta-learning (MAML) [3] through experiments. 情報処理学会 2022-03-03 jpn technical report https://ipsj.ixsq.nii.ac.jp/records/216992 2188-8906 AN10116224 研究報告マルチメディア通信と分散処理（DPS） 2022-DPS-190 8 1 7 https://ipsj.ixsq.nii.ac.jp/record/216992/files/IPSJ-DPS22190008.pdf application/pdf 838.4 kB 2024-03-03