@techreport{oai:ipsj.ixsq.nii.ac.jp:00237183,
 author = {田崎, 元 and 趙, 晋輝 and Hajime, Tasaki and Jinhui, Chao},
 issue = {62},
 month = {Jul},
 note = {深層学習を利用した分類器に対して，意図的に誤分類を引き起こす攻撃として敵対的サンプル攻撃が知られている．従来，敵対的サンプルがどのように誤分類を引き起こすか確立した理論はなかったものの，筆者らはデータ多様体の埋め込み幾何学に基づく解析を行うことにより，高次元空間において学習データの分布から外れた方向に敵対的サンプルが存在することを実証した．本稿では，この理論を拡張し，学習済み分類器の重みとデータ多様体の関係に着目し，敵対的サンプル攻撃が発生する内的要因について提案する．さらに，実データによる実験を通じて，提案する内的要因に関する妥当性や内的要因に基づく防御手法を検証する．, Adversarial example attacks are known to intentionally cause misclassification of classifiers using deep learning. Until now, theoretical understanding on causes of adversarial examples has not succeeded. Recently, the authors demonstrated that adversarial examples exist in the direction out of the distribution of training data in a high-dimensional space by analysis based on the embedding geometry of the data manifold. In this paper, we further show the counterpart of the extrinsic cause by focusing on the geometric relationship between the weight updates of the classifier and the data manifold, and prove the intrinsic cause of adversarial example attacks. Furthermore, the proposed theory and defense based on intrinsic cause is verified by experiments with real data.},
 title = {データ多様体に着目した深層学習の構造解析による敵対的サンプル攻撃の内的要因の解明},
 year = {2024}
}