White-Box Attack にロバストなAdversarial Detectionの提案

• Item type: Symposium(1)
• 公開日: 2021-10-19
• タイトル: White-Box Attack にロバストなAdversarial Detectionの提案
• タイトル / 言語: en
• タイトル: Proposal of Robust Adversarial Detection for White-Box Attack
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: 深層学習，Adversarial Example，Adversarial Detection
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_5794
• 資源タイプ: conference paper
• 著者所属: 株式会社日立製作所研究開発グループ セキュリティトラスト研究部
• 著者所属: 株式会社日立製作所研究開発グループ セキュリティトラスト研究部
• 著者所属: 株式会社日立製作所研究開発グループ セキュリティトラスト研究部
• 著者所属(英): en
• 著者所属(英): Security & Trust Laboratories, Research & Development Group, Hitachi,Ltd.
• 著者所属(英): en
• 著者所属(英): Security & Trust Laboratories, Research & Development Group, Hitachi,Ltd.
• 著者所属(英): en
• 著者所属(英): Security & Trust Laboratories, Research & Development Group, Hitachi,Ltd.
• 著者名: 山本, 恭平; 吉野, 雅之; 冨樫, 由美子
• 著者名(英): Kyohei, Yamamoto; Masayuki, Yoshino; Yumiko, Togashi
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: 深層学習が様々な分野で活用され，近い将来には自動車システムや医療システム等の人命に関わる分野への導入も期待される．一方，深層学習の普及に伴い，深層学習に対する攻撃の研究も進展を見せており，実システムへの被害が懸念されている．代表的な攻撃に，入力画像に作為的な微小ノイズを加えることで推論モデルの誤判断を引き起こす Adversarial Example Attack がある．他方，その対策手法も研究されており，特に Adversarial Example を検知する Adversarial Detection が知られているが，攻撃者が検知手法に関する情報を有する場合は，検知精度が低下する．本論文では，攻撃者が検知手法に関する情報を有する状況においても，高い検知精度が期待できる Adversarial Detection の実験結果を報告する．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: Deep learning is utilized in various fields, and it is expected that it will be introduced into fields related to human life such as automobile systems and medical systems in the near future. On the other hand, with the spread of deep learning, research on attacks on deep learning is also progressing, and there is concern about damage to the system. A typical attack is the Adversarial Example Attack, which causes misjudgment of the inference model by adding artificial noise to the input. On the other hand, countermeasure methods are also being researched, and in particular, Adversarial Detection, which detects Adversarial Examples, is known, but if the attacker has information on the detection method, detection accuracy will decrease. In this paper, we report the experimental results of Adversarial Detection, which can be expected to have high detection accuracy even when the attacker has information on the detection method.
• 書誌情報: コンピュータセキュリティシンポジウム2021論文集; p. 607-614, 発行日 2021-10-19
• 出版者 / 言語: ja
• 出版者: 情報処理学会