Item type |
Symposium(1) |
公開日 |
2019-10-14 |
タイトル |
|
|
タイトル |
LPFで防御が困難な敵対的サンプル攻撃の生成 |
タイトル |
|
|
言語 |
en |
|
タイトル |
Creation of Adversarial Example Attack that is Difficult to Protect by LPF |
言語 |
|
|
言語 |
jpn |
キーワード |
|
|
主題Scheme |
Other |
|
主題 |
深層学習,畳み込みニューラルネットワーク,敵対的攻撃,ローパスフィルタ |
資源タイプ |
|
|
資源タイプ識別子 |
http://purl.org/coar/resource_type/c_5794 |
|
資源タイプ |
conference paper |
著者所属 |
|
|
|
情報セキュリティ大学院大学 |
著者所属 |
|
|
|
情報セキュリティ大学院大学 |
著者所属 |
|
|
|
情報セキュリティ大学院大学 |
著者所属(英) |
|
|
|
en |
|
|
Institute of Information Security |
著者所属(英) |
|
|
|
en |
|
|
Institute of Information Security |
著者所属(英) |
|
|
|
en |
|
|
Institute of Information Security |
著者名 |
近藤, 大生
Dang, Duy Thang
松井, 俊浩
|
著者名(英) |
Taisei, Kondo
Dang, Duy Thang
Toshihiro, Matsui
|
論文抄録 |
|
|
内容記述タイプ |
Other |
|
内容記述 |
画像認識AIに対するAdversarial Example(AX)攻撃では高周波数成分を多く含むノイズ(Perturbation)を加えるので,高周波領域を取り除くローパスフィルタを用いることでAX攻撃を防御することができる.<br>本稿ではAdversarial Noiseの生成にローパスフィルタ(LPF)を挿入することにより,LPFによる防御が困難になることを示す.LPFによるデノイズ効果をキャンセルできるので,従来手法よりもLPF適用後の誤認識枚数が最大で21倍になるAdversarial Exampleが生成できることを示す.また,ローパスフィルタの種類やカーネルサイズを変えて比較したところ,カーネルサイズ3x3のGaussianとMedianフィルタの両方に対して高い攻撃成功率を得ることができた.カーネルサイズ5x5のフィルタでは3x3を使用したときよりも攻撃成功率は低下したが,従来のAXと比べて誤認識枚数は大幅に増加した. |
論文抄録(英) |
|
|
内容記述タイプ |
Other |
|
内容記述 |
Since adversarial example attacks against image recognition AI are known to add perturbation in higher frequency ranges, AI systems have chances to protect themselves from the attack by removing the high-frequency image component with LPF. This paper presents a new attack resistive to the denoising effect of the LPF by counter-posed use of the LPF also in the adversarial example generation stage. We applied the gaussian and median filters of different kernel sizes and evaluated the misrecognition ratio and the performance to identify as the original images. The result of evaluation shows that the number of misrecognition after applying LPF is up to 21 times that of the conventional method. |
書誌レコードID |
|
|
|
識別子タイプ |
NCID |
|
|
関連識別子 |
ISSN 1882-0840 |
書誌情報 |
コンピュータセキュリティシンポジウム2019論文集
巻 2019,
p. 1364-1369,
発行日 2019-10-14
|
出版者 |
|
|
言語 |
ja |
|
出版者 |
情報処理学会 |