認識と再構成における敵対的画像の特徴量分析

• Item type: SIG Technical Reports(1)
• 公開日: 2024-11-22
• タイトル: 認識と再構成における敵対的画像の特徴量分析
• タイトル / 言語: en
• タイトル: Feature Analysis of Adversarial Examples in Perception and Reconstruction
• 言語: jpn
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_18gh
• 資源タイプ: technical report
• 著者所属: 福井県立高志高等学校
• 著者所属: 東京大学大学院情報理工学系研究科
• 著者所属: 東京大学大学院情報理工学系研究科
• 著者所属(英): en
• 著者所属(英): Fukui Koshi High School
• 著者所属(英): en
• 著者所属(英): Department of Information and Communication Enginieering, The University of Tokyo
• 著者所属(英): en
• 著者所属(英): Department of Information and Communication Enginieering, The University of Tokyo
• 著者名: 前田, 拓海; 熊野, 創一郎; 山﨑, 俊彦
• 著者名(英): Takumi, Maeda; Soichiro, Kumano; Toshihiko, Yamasaki
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: 画像認識タスクとオートエンコーダーによる再構成タスクにおける特徴量は，相異なることが知られている．だが，敵対的画像から得られる特徴量のタスクによる違いについては，あまり知られていない．そこで同一の敵対的画像で分類タスクと再構成タスクの両方を攻撃できる新たな手法を提案し，実験を通じて敵対的画像の特徴量について調べた．この手法は Projected Gradient Descent をベースとしており，目的関数に分類誤差と再構成誤差の両方を含めることで，同時に両方のタスクを攻撃できるようにしている．実験では，誤分類と再構成画像の崩壊を同時に引き起こすだけでなく，誤分類先のクラスと再構成される画像を指定する攻撃が可能であると分かった．また，指定する誤分類先のクラスと再構成される画像とが相異なる場合でも，攻撃可能であった．これらの結果から，認識と再構成では敵対的画像の特徴量に違いがあると考えられる．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: In image recognition and reconstruction tasks using autoencoders, it is known that deep features through models differ. However, the differences of features from adversarial examples between those tasks is not well understood. In this study, we propose a novel method that can attack both classification and reconstruction tasks using the same adversarial example and investigate the difference experimentally. This method employs classification and reconstruction losses as objective function of projected gradient descent in order to attack both tasks. The experiments show that our method induces misclassification and degrades reconstructed image. In addition, it allows to specify both of the target misclassified class and the target reconstructed image. Furthermore, even when we specify different target class and target image, our attack remains effective. These results suggest that adversarial images exhibit different features in recognition and reconstruction tasks.
• 書誌レコードID / 収録物識別子タイプ: NCID
• 書誌レコードID / 収録物識別子: AA12628338
• 書誌情報: 研究報告デジタルコンテンツクリエーション（DCC）; 巻 2024-DCC-38, 号 36, p. 1-4, 発行日 2024-11-22
• ISSN / 収録物識別子タイプ: ISSN
• ISSN / 収録物識別子: 2188-8868
• Notice: SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc.
• 出版者 / 言語: ja
• 出版者: 情報処理学会