データ多様体の埋め込み幾何学に基づく新しい敵対攻撃法の提案

• Item type: SIG Technical Reports(1)
• 公開日: 2023-02-23
• タイトル: データ多様体の埋め込み幾何学に基づく新しい敵対攻撃法の提案
• タイトル / 言語: en
• タイトル: Novel Adversarial Attacks Based on Embedding Geometry of Data Manifolds
• 言語: jpn
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_18gh
• 資源タイプ: technical report
• 著者所属: 中央大学大学院理工学研究科
• 著者所属: 中央大学大学院理工学研究科
• 著者所属: 中央大学大学院理工学研究科
• 著者所属(英): en
• 著者所属(英): Graduate School of Science and Engineering, Chuo University
• 著者所属(英): en
• 著者所属(英): Graduate School of Science and Engineering, Chuo University
• 著者所属(英): en
• 著者所属(英): Graduate School of Science and Engineering, Chuo University
• 著者名: 森田, 匡博; 田崎, 元; 趙, 晋輝
• 著者名(英): Masahiro, Morita; Hajime, Tasaki; Jinhui, Chao
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: 深層学習を利用した画像認識などでは，人間が知覚できないほど小さな摂動を加えて生成される敵対的サンプルによって，誤分類を引き起こすことが発見されている．敵対的サンプルの発生原因は長らく確証ある理論に至らず，今までの敵対的サンプルの多くは最適化など試行錯誤によって生成された．しかし最近，学習データが持つデータ多様体の埋め込み構造を解析することで，敵対的サンプルはデータ多様体の接空間の直交補空間方向に存在することが明らかにされた．そこで本研究では，この発生メカニズムに基づき，埋め込み空間におけるデータ多様体構造に着目した新しい敵対的サンプルの生成手法を提案する．本手法は，データの変形に影響が少ないとされる多様体の直交補空間成分に対応する顕著な重みベクトル方向に摂動を生成することで，人に気づかれにくい攻撃画像を生成する．さらに，ターゲットクラスの中間層の出力を利用した標的型攻撃も検討し，これらの手法に対して攻撃可能性について評価を行う．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: It has been shown recently that adversarial examples inducing misclassification by deep neural networks exist in the orthogonal complementary spaces of the tangent spaces of the data manifold. In this paper, we propose novel adversarial attacks based on the embedding geometry of the data manifold. The proposed attacks generate adversarial examples by adding imperceptible perturbations in the directions of the orthogonal complementary space of the tangent spaces of the data manifold along which the weight vectors have prominent components. Moreover, we also consider targeted attacks by the output inversion in the hidden layer neurons toward the target class. Evaluations of these proposed attacks are also reported.
• 書誌レコードID / 収録物識別子タイプ: NCID
• 書誌レコードID / 収録物識別子: AA11131797
• 書誌情報: 研究報告コンピュータビジョンとイメージメディア（CVIM）; 巻 2023-CVIM-233, 号 31, p. 1-6, 発行日 2023-02-23
• ISSN / 収録物識別子タイプ: ISSN
• ISSN / 収録物識別子: 2188-8701
• Notice: SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc.
• 出版者 / 言語: ja
• 出版者: 情報処理学会