WEKO3
アイテム
再帰型ニューラルネットワークへのモデル抽出攻撃の精度評価
https://ipsj.ixsq.nii.ac.jp/records/202303
https://ipsj.ixsq.nii.ac.jp/records/202303a6f89964-4808-4307-ab16-693b788209ad
名前 / ファイル | ライセンス | アクション |
---|---|---|
![]() |
Copyright (c) 2019 by the Information Processing Society of Japan
|
|
オープンアクセス |
Item type | Symposium(1) | |||||||||||
---|---|---|---|---|---|---|---|---|---|---|---|---|
公開日 | 2019-06-26 | |||||||||||
タイトル | ||||||||||||
タイトル | 再帰型ニューラルネットワークへのモデル抽出攻撃の精度評価 | |||||||||||
言語 | ||||||||||||
言語 | jpn | |||||||||||
キーワード | ||||||||||||
主題Scheme | Other | |||||||||||
主題 | サイバーセキュリティ | |||||||||||
資源タイプ | ||||||||||||
資源タイプ識別子 | http://purl.org/coar/resource_type/c_5794 | |||||||||||
資源タイプ | conference paper | |||||||||||
著者所属 | ||||||||||||
大阪大学 | ||||||||||||
著者所属 | ||||||||||||
大阪大学 | ||||||||||||
著者所属 | ||||||||||||
大阪大学 | ||||||||||||
著者名 |
竹村, 達也
× 竹村, 達也
× 矢内, 直人
× 藤原, 融
|
|||||||||||
論文抄録 | ||||||||||||
内容記述タイプ | Other | |||||||||||
内容記述 | モデル抽出攻撃は, 公開的にアクセス可能な学習モデルに対し, そのクエリアクセスを通じて攻撃者 がより少ない計算資源およびデータ量で学習モデルと同等以上の性能を持つモデルを得る攻撃である. 既 存のモデル抽出攻撃に対する研究は 3 層の深層ニューラルネットワークなど単純なモデルに対してのみし か行われておらず, 音声認識など時系列データを扱う再帰型ニューラルネットワーク (RNN) に関してどの ような脅威が起こりえるか自明ではない. 本稿では RNN へのモデル抽出攻撃の脅威の把握として, 複雑か つ高性能な RNN である長・短記憶 (LSTM) に対し, 単純な RNN を用いて, より高い精度のモデルが抽 出できるか明らかにする. 具体的には, 二つの問題設定において議論する. まず, 画像認識などに代表され る分類問題の設定において, LSTM の中間出力を用いることで, 最終出力を待たずにモデルが抽出できるこ とを示す. 次に, 時系列データを主に扱う回帰問題の設定において, 新たな損失関数の設計を通じた攻撃方 法を提案する. MNIST データセットおよび Air Quality データセットを用いて実験したところ, MNIST では データセット総数の 20% の訓練データ数で精度 97.5 % のモデルが, Air Quality では データセット 総数の約 60 % の訓練データ数で精度 88.3 % のモデルがそれぞれ抽出できることを確認した. | |||||||||||
書誌情報 |
マルチメディア,分散協調とモバイルシンポジウム2019論文集 巻 2019, p. 202-212, 発行日 2019-06-26 |
|||||||||||
出版者 | ||||||||||||
言語 | ja | |||||||||||
出版者 | 情報処理学会 |