表形式データ学習モデルに対する外部公開統計情報を用いたモデル複製攻撃

• Item type: Symposium(1)
• 公開日: 2021-10-19
• タイトル: 表形式データ学習モデルに対する外部公開統計情報を用いたモデル複製攻撃
• タイトル / 言語: en
• タイトル: Tabular Data Model Extraction by Public and External Statistics
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: モデル複製攻撃，外部公開統計情報，表形式データ
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_5794
• 資源タイプ: conference paper
• 著者所属: 富士通株式会社
• 著者所属: 富士通株式会社
• 著者所属: 富士通株式会社
• 著者所属: 富士通株式会社
• 著者所属: 富士通株式会社
• 著者所属: 大阪大学大学院情報科学研究科
• 著者所属: 大阪大学大学院情報科学研究科
• 著者所属: 大阪大学大学院情報科学研究科
• 著者所属(英): en
• 著者所属(英): Fujitsu Limited
• 著者所属(英): en
• 著者所属(英): Fujitsu Limited
• 著者所属(英): en
• 著者所属(英): Fujitsu Limited
• 著者所属(英): en
• 著者所属(英): Fujitsu Limited
• 著者所属(英): en
• 著者所属(英): Fujitsu Limited
• 著者所属(英): en
• 著者所属(英): Graduate School of Information Science and Technology, Osaka University
• 著者所属(英): en
• 著者所属(英): Graduate School of Information Science and Technology, Osaka University
• 著者所属(英): en
• 著者所属(英): Graduate School of Information Science and Technology, Osaka University
• 著者名: 宍戸, 克成; 清水, 俊也; 樋口, 裕二; 森川, 郁也; 矢嶋, 純; 辰巳, 将崇; 岩花, 一輝; 矢内, 直人
• 著者名(英): Katsunari, Shishido; Toshiya, Shimizu; Yuji, Higuchi; Ikuya, Morikawa; Jun, Yajima; Masataka, Tatsumi; Kazuki, Iwahana; Naoto, Yanai
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: 機械学習に対する攻撃の一種である複製攻撃は，提供されているモデルに対するクエリとその出力の振る舞いから，攻撃者がそのモデルと同等のモデルを複製する攻撃である．CVPR 2021 で提案されたデータフリーモデル複製攻撃は，攻撃者の一切の背景知識を仮定することなく，MNIST は 1M クエリ，CIFAR10 は 10M クエリ程度でモデルの複製に成功している．本稿では，表形式データを学習したモデルに対して，外部に公開されている統計情報を利用する設定のより現実的なデータフリーモデル複製攻撃の可能性を示す．表形式データでは，攻撃者が統計情報をもとに生成したランダムなデータをクエリするだけで数千クエリから数万クエリで同等のモデルを複製できる知見を得た．またランダムクエリベースの手法と遺伝的アルゴリズムアルゴリズムベースの手法の向き不向きについて議論する．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: Model Extraction attack is a kind of Machine Learning attack, where the attacker is able to steal provided model. In CVPR 2021, a Data-Free Model Extraction attack that does not require any dataset and samples has been proposed and success to steal image trained model by few millions queries. In this paper, we have studied a realistic data-free tabular data model extraction attack by public and external statistics and show that there is a risk of stealing trained model by few thousands queries.
• 書誌情報: コンピュータセキュリティシンポジウム2021論文集; p. 292-299, 発行日 2021-10-19
• 出版者 / 言語: ja
• 出版者: 情報処理学会