最適な遠隔敵対的パッチの形状は四角ではない

• Item type: Symposium(1)
• 公開日: 2022-10-17
• タイトル: 最適な遠隔敵対的パッチの形状は四角ではない
• タイトル / 言語: en
• タイトル: Optimal Remote Adversarial Patches are NOT Rectangles
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: CNN，YOLO，Adversarial patch，理論的解析
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_5794
• 資源タイプ: conference paper
• 著者所属: 三菱電機株式会社
• 著者所属: 三菱電機株式会社
• 著者所属(英): en
• 著者所属(英): Mitsubishi Electric
• 著者所属(英): en
• 著者所属(英): Mitsubishi Electric
• 著者名: 大西, 健斗; 中井, 綱人
• 著者名(英): Kento, Oonishi; Tsunato, Nakai
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: 本稿では，畳み込みニューラルネットワーク (CNN) を利用した物体検知において，誤認識を引き起こす効果の高い遠隔敵対的 patch の形状の理論的考察を行う．CNN に対する強大な脅威の一つとして，敵対的な特徴を持つ patch を利用した攻撃方法がある．しかし，既存研究では，長方形の敵対的 patch による攻撃が主であり，その形状についてはあまり考察されてこなかった．本稿では，Oonishi らが提案した敵対的 patch 効果の拡散モデルに基づき，最適な遠隔敵対的 patch の形状について理論的解析を行う．まず，敵対的 patch の効果がほぼ同心円状に拡散することを示すとともに，画像の中心に強い影響を与える遠隔敵対的 patch は円の一部となることを理論的に示す．さらに，最適な遠隔敵対的 patch を配置するアルゴリズムを提案し，得られる形状が理論的解析と同じく円の一部であることを示すとともに，平均検出率が，長方形の場合の 12.81% から 9.27% まで低下することを示す．最後に，遠隔敵対的 patch の動的な生成を行った場合にも，遠隔敵対的 patch が円の一部となることを，実験により示す．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: This paper gives an analysis of strong remote adversarial patches on Convolutional Neural Network (CNN)'s object detection. Adversarial patches are one of severe threats for CNNs. However, researchers have mainly considered rectangle adversarial patches, and an optimal shape has not been fully considered. This paper gives an optimal shape of remote adversarial patches based on Oonishi's diffusion model. First, we show that an effect of adversarial patches spreads almost concentrically. We then show that remote adversarial patches with a part of a circle give strong effects on the center of images. We also propose an algorithm for calculating optimal remote adversarial patches. Our algorithm’s output is a part of a circle, which is the same as our theoretical analysis. Moreover, an average detection rate is 9.27%, which is lower than 12.81% by previous rectangle adversarial patches. Finally, we show that adversarial patches generated dynamically is a part of a circle.
• 書誌情報: コンピュータセキュリティシンポジウム2022論文集; p. 960-967, 発行日 2022-10-17
• 出版者 / 言語: ja
• 出版者: 情報処理学会