実車を用いた車両ナンバー認識AIに対する敵対的パッチ攻撃の実証及び評価

• Item type: Symposium(1)
• 公開日: 2024-10-15
• タイトル / 言語: ja
• タイトル: 実車を用いた車両ナンバー認識AIに対する敵対的パッチ攻撃の実証及び評価
• タイトル / 言語: en
• タイトル: Demonstration and Evaluation of Adversarial Patch Attacks Against License Plate Recognition AI Using Real Vehicles
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: 車両ナンバー認識AI，敵対的サンプル，敵対的パッチ攻撃
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_5794
• 資源タイプ: conference paper
• 著者所属: 富士通株式会社 データ&セキュリティ研究所
• 著者所属: 富士通株式会社 データ&セキュリティ研究所
• 著者所属: 富士通株式会社 データ&セキュリティ研究所
• 著者所属(英): en
• 著者所属(英): Data & Security Research Laboratory, Fujitsu Limited
• 著者所属(英): en
• 著者所属(英): Data & Security Research Laboratory, Fujitsu Limited
• 著者所属(英): en
• 著者所属(英): Data & Security Research Laboratory, Fujitsu Limited
• 著者名: 吉橋, 仁; 小久保, 博崇; 海野, 由紀
• 著者名(英): Hitoshi, Yoshihashi; Hirotaka, Kokubo; Yuki, Unno
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: AI技術の発展により，現代では監視カメラによる車両監視業務において，AIを使った車両ナンバー認識が行われることがある．一方で，AIへ入力する画像の一部にノイズのような小さな画像を重畳することでAIを誤認識させようとする敵対的パッチ攻撃技術の研究も進んでおり，AIを用いた車両ナンバー認識においても敵対的パッチ攻撃を受けるリスクを考慮する必要性が高まっている．そこで本研究では，実際の車両と車両ナンバー認識AIに対して，ブラックボックス条件下で敵対的パッチ攻撃がどの程度成功するか実証・評価を行った．その結果，一般的な防犯カメラ及び車両ナンバー認識で用いられる高性能カメラで撮影した動画に対し，車両が映っている動画フレームのうち過半数のフレームで車両ナンバーを誤認識させることに成功した．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: Due to the development of AI technology, license plate recognition using AI is sometimes performed in vehicle monitoring operations using surveillance cameras today. On the other hand, research on adversarial patch attack technology, which attempts to misrecognize AI by superimposing a small image such as noise on part of the image input to AI, is progressing, and there is an increasing need to consider the risk of adversarial patch attack in vehicle number recognition using AI. In this study, we demonstrated and evaluated the success of adversarial patch attacks on real vehicles and license plate recognition AI under black box conditions. As a result, we succeeded in misidentifying the vehicle number in more than half of the video frames in which the vehicle was shown, compared to videos taken by a general security camera and a high-performance camera used for license plate recognition.
• 書誌情報: コンピュータセキュリティシンポジウム2024論文集; p. 727-734, 発行日 2024-10-15
• 出版者 / 言語: ja
• 出版者: 情報処理学会