マボロシオロシ: 自律飛行型ドローンを標的とした投影攻撃の分析とロバストな対策手法の提案

• Item type: Symposium(1)
• 公開日: 2023-10-23
• タイトル: マボロシオロシ: 自律飛行型ドローンを標的とした投影攻撃の分析とロバストな対策手法の提案
• タイトル / 言語: en
• タイトル: MaboroshiOroshi: Analysis and a Robust Countermeasure of Projection Attacks on Autonomous Drones
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: 自律飛行型ドローン，投影攻撃，深層学習，物体検出，セキュリティ
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_5794
• 資源タイプ: conference paper
• 著者所属: 早稲田大学
• 著者所属: 国立研究開発法人 産業技術総合研究所／早稲田大学
• 著者所属: 早稲田大学／NICT／理研AIP
• 著者所属(英): en
• 著者所属(英): Waseda University
• 著者所属(英): en
• 著者所属(英): AIST / Waseda University
• 著者所属(英): en
• 著者所属(英): Waseda University / NICT / RIKEN AIP
• 著者名: 大山, 穂高; 飯島, 涼; 森, 達哉
• 著者名(英): Hotaka, Oyama; Ryo, Iijima; Tatsuya, Mori
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: プロジェクタで投影したオブジェクトを物体検出に示すことで，実際に存在するオブジェクトとして誤認識させる``phantom attack'' と呼ばれる攻撃が知られている．この攻撃は，自律飛行型ドローンのように物体検出を応用するシステムの脅威となり得ると考えられている．一方で，先行研究では，phantom attackの実現性に関する詳細な評価は行われておらず，攻撃による影響は未知数である．また，phantom attackへの対策として，カメラ画像を入力とする深層学習モデルを用いることで，検出したオブジェクトが実物か投影かを識別する手法が提案されている．しかし，この手法は，学習用データセットに含まれない未知の種類のプロジェクタに対する精度劣化が大きく，頑健性に向上の余地があることが判明している．そこで，本論文では，投影と攻撃対象となる自律飛行型ドローンの距離や角度を考慮した実験により，攻撃の具体的な成功率を評価する．さらに，フーリエ変換を用い，実物と投影における輝度変化の差異を可視化することで，深層学習による識別を行う対策手法を提案する．この手法を評価した結果，既存手法と同程度の精度を維持しつつ，未知の種類のプロジェクタに対する精度劣化を大きく低減できることがわかった．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: There is a visual spoofing attack called ''phantom attacks'' that misleads object detectors to misrecognize a projected object as a real object. This attack is a threat to autonomous systems (including autonomous drones) that apply object detection. On the other hand, previous studies have not evaluated feasibility of phantom attacks in detail, and impact of the attack is unknown. Furthermore, as a countermeasure against phantom attacks a method that identifies whether a detected object is real or projected by using a deep learning model with camera images as input is proposed. However, this method has a problem in robustness, and performance degrades for unknown type of projector that is not included in training data. Therefore, in this paper, we evaluate attack success rate by conducting experiments considering angle and distance between projection and target drone. In addition, we proposed a countermeasure using a deep learning model that utilize differences in luminance change between real object and projected object visualized by Fourier transform. This method can reduce the performance degradation about unknown type of projector while maintaining performance at the same level as existing method.
• 書誌情報: コンピュータセキュリティシンポジウム2023論文集; p. 1235-1242, 発行日 2023-10-23
• 出版者 / 言語: ja
• 出版者: 情報処理学会