データ多様体に着目した深層学習の構造解析による敵対的サンプル攻撃の内的要因の解明

• Item type: SIG Technical Reports(1)
• 公開日: 2024-07-15
• タイトル: データ多様体に着目した深層学習の構造解析による敵対的サンプル攻撃の内的要因の解明
• タイトル / 言語: en
• タイトル: Intrinsic Cause of Adversarial Examples by Geometric Analysis of Deep Learning Viewed from Data Manifold
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: ISEC
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_18gh
• 資源タイプ: technical report
• 著者所属: 中央大学大学院理工学研究科
• 著者所属: 中央大学大学院理工学研究科
• 著者所属(英): en
• 著者所属(英): Graduate School of Science and Engineering, Chuo University
• 著者所属(英): en
• 著者所属(英): Graduate School of Science and Engineering, Chuo University
• 著者名: 田崎, 元; 趙, 晋輝
• 著者名(英): Hajime, Tasaki; Jinhui, Chao
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: 深層学習を利用した分類器に対して，意図的に誤分類を引き起こす攻撃として敵対的サンプル攻撃が知られている．従来，敵対的サンプルがどのように誤分類を引き起こすか確立した理論はなかったものの，筆者らはデータ多様体の埋め込み幾何学に基づく解析を行うことにより，高次元空間において学習データの分布から外れた方向に敵対的サンプルが存在することを実証した．本稿では，この理論を拡張し，学習済み分類器の重みとデータ多様体の関係に着目し，敵対的サンプル攻撃が発生する内的要因について提案する．さらに，実データによる実験を通じて，提案する内的要因に関する妥当性や内的要因に基づく防御手法を検証する．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: Adversarial example attacks are known to intentionally cause misclassification of classifiers using deep learning. Until now, theoretical understanding on causes of adversarial examples has not succeeded. Recently, the authors demonstrated that adversarial examples exist in the direction out of the distribution of training data in a high-dimensional space by analysis based on the embedding geometry of the data manifold. In this paper, we further show the counterpart of the extrinsic cause by focusing on the geometric relationship between the weight updates of the classifier and the data manifold, and prove the intrinsic cause of adversarial example attacks. Furthermore, the proposed theory and defense based on intrinsic cause is verified by experiments with real data.
• 書誌レコードID / 収録物識別子タイプ: NCID
• 書誌レコードID / 収録物識別子: AA11235941
• 書誌情報: 研究報告コンピュータセキュリティ（CSEC）; 巻 2024-CSEC-106, 号 62, p. 1-6, 発行日 2024-07-15
• ISSN / 収録物識別子タイプ: ISSN
• ISSN / 収録物識別子: 2188-8655
• Notice: SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc.
• 出版者 / 言語: ja
• 出版者: 情報処理学会