道路標識認識に対する敵対的攻撃による誤認識誘発手法

• Item type: SIG Technical Reports(1)
• 公開日: 2025-10-30
• タイトル / 言語: ja
• タイトル: 道路標識認識に対する敵対的攻撃による誤認識誘発手法
• タイトル / 言語: en
• タイトル: Research on Adversarial Attack Strategies for Inducing Misclassification in Traffic Sign Recognition
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: PRMU
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_18gh
• 資源タイプ: technical report
• 著者所属: 島根大学総合理工学部
• 著者所属: 島根大学総合理工学部／東北大学
• 著者所属: 東北大学
• 著者所属(英): en
• 著者所属(英): Interdisciplinary Faculty of Science and Engineering, Shimane University
• 著者所属(英): en
• 著者所属(英): Interdisciplinary Faculty of Science and Engineering, Shimane University / Tohoku University
• 著者所属(英): en
• 著者所属(英): Tohoku University
• 著者名: 高橋,征那; 黄,緒平; 伊藤,彰則
• 著者名(英): Sena Takahashi; Xuping Huang; Akinori Ito
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: 標識の誤認識による事故の危険性や，敵対的攻撃による脆弱性が現実的な脅威として懸念されている．本研究では，カメラによる道路標識認識システムに対する敵対的攻撃の影響を検証し，その誤認識の誘発手法を明らかにすることを目的とする．特に色フィルター，幾何学模様，文字や形状の改変といった加工を施し，深層学習モデルの分類結果とSaliency Mapによる注目領域の変化を分析した．実験の結果，特に色フィルターは高い確率で誤分類を引き起した．また，Saliency Mapによる注目領域の重ならない上位3点に対して幾何学模様を追加し，予測結果の変化率を検証した．一方で，形状や文字の変更は分類にほとんど影響を与えず，モデルが主に色情報に依存している可能性が示唆された．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: With the advancement of autonomous driving technology, the recognition of road signs by onboard cameras has become an essential element for safe driving control. On the other hand, the risk of accidents due to misrecognition of signs and vulnerabilities to hostile attacks are concerns that pose realistic threats. This study aims to investigate the impact of hostile attacks on road sign recognition systems using cameras mounted on vehicles and to elucidate the methods of inducing misrecognition. Manipulations such as color filters, geometric patterns, and alterations of letters and shapes were applied, and the changes in classification results by deep learning models and attention areas indicated by Saliency Maps were analyzed. The experiment's results showed that color filters caused misclassification with a high probability, leading to 100% misclassification specifically for STOP signs. Additionally, adding geometric patterns to the top three non-overlapping attention areas from the Saliency Map demonstrated a significant decrease in confidence level before and after the manipulation, as indicated by t-tests. Conversely, changes in shape or text had little effect on classification, suggesting that the model mainly relies on color information.
• 書誌レコードID / 収録物識別子タイプ: NCID
• 書誌レコードID / 収録物識別子: AN10100541
• 書誌情報: 研究報告コンピュータグラフィックスとビジュアル情報学（CG）; 巻 2025-CG-200, 号 40, p. 1-5, 発行日 2025-10-30
• ISSN / 収録物識別子タイプ: ISSN
• ISSN / 収録物識別子: 2188-8949
• Notice: SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc.
• 出版者 / 言語: ja
• 出版者: 情報処理学会