JPEG圧縮による画像分類器の識別結果の変動解析に基づく敵対的事例の検知法

• Item type: Symposium(1)
• 公開日: 2019-10-14
• タイトル: JPEG圧縮による画像分類器の識別結果の変動解析に基づく敵対的事例の検知法
• タイトル / 言語: en
• タイトル: Detecting Adversarial Example Based on Changes of CNN Classification Results Caused by JPEG Compression
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: 敵対的事例，JPEG圧縮，画像分類器，CNN
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_5794
• 資源タイプ: conference paper
• 著者所属: 岡山大学大学院自然科学研究科
• 著者所属: 岡山大学大学院自然科学研究科
• 著者所属: 岡山大学大学院自然科学研究科
• 著者所属: 国立情報学研究所
• 著者所属: 国立情報学研究所
• 著者所属(英): en
• 著者所属(英): Graduate School of Natural Science and Technology, Okayama University
• 著者所属(英): en
• 著者所属(英): Graduate School of Natural Science and Technology, Okayama University
• 著者所属(英): en
• 著者所属(英): Graduate School of Natural Science and Technology, Okayama University
• 著者所属(英): en
• 著者所属(英): National Institute of Informatics
• 著者所属(英): en
• 著者所属(英): National Institute of Informatics
• 著者名: 東, 亮憲; 栗林, 稔; 舩曵, 信生; Huy, H. Nguyen; 越前, 功
• 著者名(英): Akinori, Higashi; Minoru, Kuribayashi; Nobuo, Funabiki; Huy, H. Nguyen; Isao, Echizen
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: CNNを用いた画像分類器の研究が盛んに進められている一方で，その画像分類器を欺くことができる敵対的事例の存在が指摘されている．敵対的事例とは，意図的に造られた小さな摂動を元の画像に加えることで，画像分類器の識別結果が元の画像と異なるクラスを指す画像である．人間の目では元の画像との差異を判別することが困難であるため，敵対的事例を検知することが一般的には難しい．本研究では，敵対的事例と正常な画像を識別することを目的とする．画像分類器が誤った結果を出力する理由は，敵対的事例の微小なノイズが影響しているためである．提案手法では，ノイズ除去を目的としてJPEG圧縮によるフィルタ処理をすることで，画像分類器の識別結果の変動を解析する．JPEG圧縮の品質パラメータの変化に伴う識別結果の違いを特徴成分として，単純なしきい値を用いることにより敵対的事例と正常な画像を高精度で識別することができた．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: While the research on image classifiers using CNN has been actively investigated, the study of adversarial example which can fool the image classifiers has been a potential threat in this research field. The adversarial example is created by intentionally adding small perturbations to an image so that an image classifier identifies a different class from the original class. It is not easy to detect adversarial example because the human eye cannot distinguish the difference from the original image. The objective of this study is to distinguish adversarial examples from natural images. The reason why an image classifier outputs an incorrect result is the tiny noise added to an original image. In this study, we analyse the fluctuation of the classification result by filtering with JPEG compression for the purpose of noise removal. By using a simple threshold, it is possible to discriminate adversarial examples and natural images with high accuracy from the characteristics of the fluctuations.
• 書誌レコードID / 識別子タイプ: NCID
• 書誌レコードID / 関連識別子: ISSN 1882-0840
• 書誌情報: コンピュータセキュリティシンポジウム2019論文集; 巻 2019, p. 975-981, 発行日 2019-10-14
• 出版者 / 言語: ja
• 出版者: 情報処理学会