実用的な深層学習に対するModel Reverse-Engineering攻撃の脅威評価

• Item type: Symposium(1)
• 公開日: 2019-10-14
• タイトル: 実用的な深層学習に対するModel Reverse-Engineering攻撃の脅威評価
• タイトル / 言語: en
• タイトル: Model Reverse-Engineering Attack against Practical Deep Neural Network
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: 深層学習，Model Reverse-Engineering攻撃，，サイドチャネル攻撃，Model Extraction攻撃
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_5794
• 資源タイプ: conference paper
• 著者所属: 三菱電機株式会社 情報技術総合研究所
• 著者所属: 三菱電機株式会社 情報技術総合研究所
• 著者所属: 三菱電機株式会社 情報技術総合研究所
• 著者所属: 立命館大学 理工学部
• 著者所属(英): en
• 著者所属(英): Information Technology R&D Center, Mitsubishi Electric Corporation
• 著者所属(英): en
• 著者所属(英): Information Technology R&D Center, Mitsubishi Electric Corporation
• 著者所属(英): en
• 著者所属(英): Information Technology R&D Center, Mitsubishi Electric Corporation
• 著者所属(英): en
• 著者所属(英): College of Science and Engineering, Ritsumeikan University
• 著者名: 中井, 綱人; 鈴木, 大輔; 大松, 史生; 藤野, 毅
• 著者名(英): Tsunato, Nakai; Daisuke, Suzuki; Fumio, Omatsu; Takeshi, Fujino
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: 深層学習を活用したAIの発展が目覚ましく，リアルタイム処理などを目的に，エッジAIデバイスが注目されている．一方で，エッジAIデバイスから発生する消費電力や漏洩電磁波等のサイドチャネル情報を用いて，学習モデル情報を窃取するModel Reverse-Engineering攻撃が2018年から研究されはじめている．先行研究では，漏洩電磁波を用いて，実装が既知で単純なニューラルネットワークに対するModel Reverse-Engineering攻撃の脅威を報告している．現実的な攻撃シナリオを考えた場合，より実用的で複雑なニューラルネットワークに対する脅威評価や，攻撃者の前提知識の整理が必要であり，先行研究では明らかにされていない．そこで，本論文では，マイコン向け深層学習開発プラットフォーム uTensorで開発された実用的なニューラルネットワークを対象に，Model Reverse-Engineering攻撃の脅威を評価した．実験結果により，Model Reverse-Engineering攻撃は，実用的なニューラルネットワークにおいても，ある程度現実的な脅威であることを示す．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: Artificial intelligence (AI), especially deep learning (DL), has been remarkable and applied to various industries. Moreover, edge AI devices are attracting attention because of real time processing. However, model reverse-engineering attack, which reveal model architecture and parameters utilizing side channel information such as power consumption or electromagnetic radiation, has been studied since 2018. The previous work has reported that model architecture and parameters of simple neural network whose implementation is known were revealed utilizing electromagnetic radiation. Considering of practical attack scenario, it is not clear that the threat in case of more complex and practical deep neural network and the prior knowledge of attackers in previous works. Therefore, this paper shows the evaluation of model reverse-engineering attack against the practical deep neural network which was developed on uTensor platform for microcontroller unit (MCU). According to the experimental result, model reverse-engineering attack becomes a certain threat against practical deep neural networks.
• 書誌レコードID / 識別子タイプ: NCID
• 書誌レコードID / 関連識別子: ISSN 1882-0840
• 書誌情報: コンピュータセキュリティシンポジウム2019論文集; 巻 2019, p. 1122-1129, 発行日 2019-10-14
• 出版者 / 言語: ja
• 出版者: 情報処理学会