人間と機械学習モデルの両者をだますAdversarial Example の作成方法

• Item type: SIG Technical Reports(1)
• 公開日: 2024-02-25
• タイトル: 人間と機械学習モデルの両者をだますAdversarial Example の作成方法
• タイトル / 言語: en
• タイトル: Creating Adversarial Examples to Deceive Both Humans and Machine Learning Models
• 言語: jpn
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_18gh
• 資源タイプ: technical report
• 著者所属: 早稲田大学
• 著者所属: NTT社会情報研究所
• 著者所属: NTTセキュリティホールディングス
• 著者所属: NTT社会情報研究所
• 著者所属: 早稲田大学
• 著者所属(英): en
• 著者所属(英): Waseda University
• 著者所属(英): en
• 著者所属(英): NTT Social Informatics Laboratories
• 著者所属(英): en
• 著者所属(英): NTT Security Holdings
• 著者所属(英): en
• 著者所属(英): NTT Social Informatics Laboratories
• 著者所属(英): en
• 著者所属(英): Waseda University
• 著者名: 藤森, 洸; 芝原, 俊樹; 千葉, 大紀; 秋山, 満昭; 内田, 真人
• 著者名(英): Ko, Fujimori; Toshiki, Shibahara; Daiki, Chiba; Mitsuaki, Akiyama; Masato, Uchida
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: ニューラルネットワークに対する脆弱性攻撃の一つとして，入力データに微小なノイズを加えることで作為的に誤分類を誘発させる Adversarial Example（AE）がある．AE による「攻撃成功」は，ノイズを人間に認識されることなく機械学習モデルを誤分類させることとして定義される．しかし，AE の攻撃手法に関する既存研究では，機械学習モデルを誤分類させることのみが着目されており，ノイズの視認性について評価していない場合がある．代表的な攻撃手法である Fast Gradient Sign Method が提案された論文で行われた評価実験と同じ条件下で作成された AE は，大多数がノイズを視認できることが確認されている．そこで本研究では，視覚的に自然に見える AE の作成方法を提案する．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: One of the vulnerability attacks against neural networks is the generation of Adversarial Examples (AE), which induce misclassification by adding minimal noise to input data. The “attack success” by AE is defined as causing a machine learning model to misclassify without the noise being recognized by humans. However, existing research on AE attack methods often focuses solely on causing misclassification of machine learning models and may not evaluate the visibility of the noise. Evaluation experiments conducted in the same conditions as the paper that proposed the prominent attack method, the Fast Gradient Sign Method, have confirmed that the majority of AEs are perceptible with noise. Therefore, in this study, we propose a method for creating AEs that appear visually natural.
• 書誌レコードID / 収録物識別子タイプ: NCID
• 書誌レコードID / 収録物識別子: AA11131797
• 書誌情報: 研究報告コンピュータビジョンとイメージメディア（CVIM）; 巻 2024-CVIM-237, 号 31, p. 1-6, 発行日 2024-02-25
• ISSN / 収録物識別子タイプ: ISSN
• ISSN / 収録物識別子: 2188-8701
• Notice: SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc.
• 出版者 / 言語: ja
• 出版者: 情報処理学会