自動運転システムのセキュリティ評価プラットフォーム Overpass による敵対的攻撃の E2E 評価

• Item type: Symposium(1)
• 公開日: 2024-10-15
• タイトル / 言語: ja
• タイトル: 自動運転システムのセキュリティ評価プラットフォーム Overpass による敵対的攻撃の E2E 評価
• タイトル / 言語: en
• タイトル: Overpass: End-to-End Evaluation of Adversarial Attacks with an Autonomous Driving Security Assessment Platform
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: 自動運転，セキュリティ，標識認識，E2E 評価
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_5794
• 資源タイプ: conference paper
• 著者所属: 早稲田大学／デロイト トーマツ サイバー合同会社
• 著者所属: デロイト トーマツ サイバー合同会社
• 著者所属: 早稲田大学
• 著者所属: 早稲田大学
• 著者所属: 早稲田大学
• 著者所属: デロイト トーマツ サイバー合同会社
• 著者所属: 早稲田大学／NICT／理研AIP
• 著者所属(英): en
• 著者所属(英): Waseda University / Deloitte Tohmatsu Cyber LLC
• 著者所属(英): en
• 著者所属(英): Deloitte Tohmatsu Cyber LLC
• 著者所属(英): en
• 著者所属(英): Waseda University
• 著者所属(英): en
• 著者所属(英): Waseda University
• 著者所属(英): en
• 著者所属(英): Waseda University
• 著者所属(英): en
• 著者所属(英): Deloitte Tohmatsu Cyber LLC
• 著者所属(英): en
• 著者所属(英): Waseda University/NICT/RIKEN AIP
• 著者名: 野本, 一輝; 福永, 拓海; 鶴岡, 豪; 小林, 竜之輔; 田中, 優奈; 神薗, 雅紀; 森, 達哉
• 著者名(英): Kazuki, Nomoto; Takumi, Fukunaga; Go, Tsuruoka; Ryunosuke, Kobayashi; Yuna, Tanaka; Masaki, Kamizono; Tatsuya, Mori
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: 自動運転システムは，Adversarial Example (AE) 攻撃に脆弱であることが知られている．多くの既存研究では，自動運転システムのセンシングから認識，経路計画，制御に至るまでのエンドツーエンド (E2E) の評価が十分に行われておらず，攻撃のリスクを正確に評価できていない．この理由として，自動運転システムの E2E 評価を実現するプラットフォームが整備されていないことが挙げられる．本稿では，自動運転システムのセキュリティ評価プラットフォーム Overpass を提案し，AE 攻撃が自動運転システムに与える影響について，E2E 評価を行った．その結果，既存研究で行われてきた物体検出器単体に対する評価のみでは，AE 攻撃が行われたときの自動運転車両のリスクを正しく評価することはできず，車両やシステムの様々なパラメータを考慮した網羅的な評価の重要性を明らかにした．具体的には，物体検出器単体への攻撃成功率が 80% 以下のとき，AE 攻撃は E2E での自動運転車両の挙動に影響を与えないことが確認された．また，検出頻度が低いとき，物体検出器の攻撃成功率が低い状況においても，E2E での攻撃成功率が高くなることが明らかとなった．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: Autonomous driving systems have been demonstrated to be vulnerable to Adversarial Example (AE) attacks; however, existing research often lacks comprehensive end-to-end (E2E) evaluations.In this paper, we propose a security evaluation platform Overpass and conduct an E2E assessment to examine the impact of AE attacks on autonomous driving systems. Our findings indicate that evaluations focused solely on object detectors fail to accurately assess the associated risks. It revealed the importance of comprehensive evaluations that take into account various vehicle and system parameters. Specifically, our results reveal that even when the attack success rate against the object detector is below 80%, AE attacks may not significantly impact the E2E behavior of the autonomous vehicle. Furthermore, it was observed that lower detection frequencies can lead to a higher E2E attack success rate, even when the attack success rate against the object detector is low.
• 書誌情報: コンピュータセキュリティシンポジウム2024論文集; p. 393-400, 発行日 2024-10-15
• 出版者 / 言語: ja
• 出版者: 情報処理学会