WEKO3
アイテム
差分プライバシーを保証したモデル説明DPGD-Explainに対するレコード再構築リスクの実験評価
https://ipsj.ixsq.nii.ac.jp/records/240784
https://ipsj.ixsq.nii.ac.jp/records/2407847ac73188-8e16-4806-b91a-cc68e6c465af
| 名前 / ファイル | ライセンス | アクション |
|---|---|---|
IPSJ-CSS2024038.pdf (695.0 kB)
2026年10月15日からダウンロード可能です。
|
Copyright (c) 2024 by the Information Processing Society of Japan
|
|
| 非会員：¥660, IPSJ:学会員：¥330, CSEC:会員：¥0, SPT:会員：¥0, DLIB:会員：¥0 | ||
| Item type | Symposium(1) | |||||||||
|---|---|---|---|---|---|---|---|---|---|---|
| 公開日 | 2024-10-15 | |||||||||
| タイトル | ||||||||||
| 言語 | ja | |||||||||
| タイトル | 差分プライバシーを保証したモデル説明DPGD-Explainに対するレコード再構築リスクの実験評価 | |||||||||
| タイトル | ||||||||||
| 言語 | en | |||||||||
| タイトル | Empirical Evaluation of Record Reconstruction Risk from DPGD-Explain Model Explanations with Differential Privacy | |||||||||
| 言語 | ||||||||||
| 言語 | jpn | |||||||||
| キーワード | ||||||||||
| 主題Scheme | Other | |||||||||
| 主題 | 説明可能性，差分プライバシー，レコード再構築攻撃，DPGD-Explain | |||||||||
| 資源タイプ | ||||||||||
| 資源タイプ識別子 | http://purl.org/coar/resource_type/c_5794 | |||||||||
| 資源タイプ | conference paper | |||||||||
| 著者所属 | ||||||||||
| 明治大学大学院先端数理科学研究科 | ||||||||||
| 著者所属 | ||||||||||
| 明治大学大学院先端数理科学研究科 | ||||||||||
| 著者所属(英) | ||||||||||
| en | ||||||||||
| Graduate School of Advanced Mathematical Sciences, Meiji University | ||||||||||
| 著者所属(英) | ||||||||||
| en | ||||||||||
| Graduate School of Advanced Mathematical Sciences, Meiji University | ||||||||||
| 著者名 |
當麻, 僚太郎
× 當麻, 僚太郎
× 菊池, 浩明
|
|||||||||
| 著者名(英) |
Ryotaro, Toma
× Ryotaro, Toma
× Hiroaki, Kikuchi
|
|||||||||
| 論文抄録 | ||||||||||
| 内容記述タイプ | Other | |||||||||
| 内容記述 | 機械学習モデルの公平性や学習の透明性を保証し，ユーザに納得感を与えるために機械学習モデルの出力を説明する説明可能性技術が注目されている．機械学習モデルを用いたサービスの多くはMachine Learning as a Service（MLaaS）と呼ばれるプラットフォーム上で提供されており，これらのMLaaSプラットフォームでは，モデルの出力に加えて，モデルを説明するいくつかの指標を提供している． 2022年にPatelらは差分プライバシーを保証した説明可能性指標DPGD-Explainを提案している．しかし，モデル説明可能性値を学習することにより，学習データの値を推測するレコードを再構築されるリスクが疑われる．そこで，本研究では，DPGD-Explainに対するレコード再構築リスクを調べ，プライバシー予算や説明の質と安全性との関係を明らかにする． | |||||||||
| 論文抄録(英) | ||||||||||
| 内容記述タイプ | Other | |||||||||
| 内容記述 | Explainability has gained attention to ensure fairness and transparency in machine learning models, providing users with a sense of understanding. Most services for machine learning models are offered in a style of Machine Learning as a Service (MLaaS) platforms, which provide several methods to explain model outputs. Patel et al. (2022) proposed DPGD-Explain, model explanations with differential privacy. Nevertheless, it remains unclear how model explanations with guarantee of differential privacy is vulnerable against the record reconstruction attack that trains the behavior between input data and the model explanations. In this study, we investigate the record reconstruction risk of DPGD-Explain in terms of the privacy budget and the quality. | |||||||||
| 書誌情報 |
コンピュータセキュリティシンポジウム2024論文集 p. 274-280, 発行日 2024-10-15 |
|||||||||
| 出版者 | ||||||||||
| 言語 | ja | |||||||||
| 出版者 | 情報処理学会 | |||||||||
