AIモデルの説明可能性LIMEとShapley値からの属性推定リスクの評価

• Item type: SIG Technical Reports(1)
• 公開日: 2024-03-14
• タイトル: AIモデルの説明可能性LIMEとShapley値からの属性推定リスクの評価
• タイトル / 言語: en
• タイトル: Evaluation of Feature Inference Risk from Explainable AI metrics LIME and Shapley Values
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: ICSS(4)
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_18gh
• 資源タイプ: technical report
• 著者所属: 明治大学総合数理学部
• 著者所属: 明治大学総合数理学部
• 著者所属(英): en
• 著者所属(英): School of Interdisciplinary Mathematical Sciences, Meiji University
• 著者所属(英): en
• 著者所属(英): School of Interdisciplinary Mathematical Sciences, Meiji University
• 著者名: 當麻, 僚太郎; 菊池, 浩明
• 著者名(英): Ryotaro, Toma; Hiroaki, Kikuchi
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: 機械学習モデルの公平性や学習の透明性を保証し，ユーザに納得感を与えるために機械学習モデルの出力を説明する説明可能性技術が注目されている．Amazon Web Services や Google Cloud Platform，Microsoft Azure などの主要なサービスの多くは Machine Learning as a Service（以下，MLaaS）と呼ばれるプラットフォーム上で提供されており，モデルの出力を説明するための手法をいくつか提供している．しかし，2022 年に Luo らが Shapley 値による説明からモデルへのプライベートな入力を推論出来ることを示した．ただし，Shapley 値以外の説明手法について同様の属性推定リスクが存在するかは明らかでない．そこで，Shapley 値と同じ局所的な説明手法である LIME に対して属性推論攻撃を行い，Shapley 値と LIME の属性推定リスクの違いについて評価する．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: Explainability has gained attention to ensure fairness and transparency in machine learning models, providing users with a sense of understanding. Many services such as Amazon Web Services, Google Cloud Platform, and Microsoft Azure running Machine Learning as a Service (MLaaS) platforms, which provide several methods to explain model. However, in 2022, Luo et al. demonstrated that Shapley value-based explanations could lead to inference of private attribute, posing privacy risks of information leakage from models. Nevertheless, it remains unclear whether the attribute inference risk on the alternative explainability exist or not. Therefore, this study evaluates the attribute inference risk on LIME and compare the vulnerability with the explanability Shapley values.
• 書誌レコードID / 収録物識別子タイプ: NCID
• 書誌レコードID / 収録物識別子: AA12628305
• 書誌情報: 研究報告セキュリティ心理学とトラスト（SPT）; 巻 2024-SPT-54, 号 30, p. 1-8, 発行日 2024-03-14
• ISSN / 収録物識別子タイプ: ISSN
• ISSN / 収録物識別子: 2188-8671
• Notice: SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc.
• 出版者 / 言語: ja
• 出版者: 情報処理学会