異議あり！：XAIによる誤識別された悪性活動の特定

• Item type: Symposium(1)
• 公開日: 2021-10-19
• タイトル: 異議あり！：XAIによる誤識別された悪性活動の特定
• タイトル / 言語: en
• タイトル: Objection!: Identifying Misidentified Malicious Activities with XAI
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: XAI，機械学習，悪性サイト検知，マルウェア検知
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_5794
• 資源タイプ: conference paper
• 著者所属: 早稲田大学
• 著者所属: 日本電信電話株式会社
• 著者所属: 日本電信電話株式会社
• 著者所属: 日本電信電話株式会社
• 著者所属: 早稲田大学
• 著者所属(英): en
• 著者所属(英): Waseda University
• 著者所属(英): en
• 著者所属(英): NTT
• 著者所属(英): en
• 著者所属(英): NTT
• 著者所属(英): en
• 著者所属(英): NTT
• 著者所属(英): en
• 著者所属(英): Waseda University
• 著者名: 藤田, 晃治; 芝原, 俊樹; 千葉, 大紀; 秋山, 満昭; 内田, 真人
• 著者名(英): Koji, Fujita; Toshiki, Shibahara; Daiki, Chiba; Mitsuaki, Akiyama; Masato, Uchida
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: サイバー空間における様々な悪性活動を機械学習で構築した識別モデルで検知する手法が多数検討されている．しかし，どのような識別モデルであっても誤検知や見逃しはつきものであり，人間による検証が欠かせない．これを補助する手法に，識別結果の判断根拠を提示する説明可能 AI（eXplainable AI: XAI）がある．しかし，検証の対象となる識別結果の件数が膨大である場合，全件について XAI の出力を確認するのは現実的ではない．また，XAI の出力を解釈すること自体が難しい場合もある．本研究では，XAI の出力を特徴量として用いることで識別結果を検証し，信頼性に疑義がある場合には異議を唱える機械学習モデル（異議判定モデル）を提案する．悪性サイト検知とマルウェア検知に関する実験の結果，異議判定モデルを用いることで，誤識別された悪性活動を効率的に特定できることがわかった．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: There have been many studies to detect various malicious activities in cyberspace using discriminative models built by machine learning. However, any discriminative model is inevitable to make mistakes, so human verification is necessary. One method to address this issue is XAI (eXplainable AI), which provides a reason for identification. However, when the number of identification results to be verified is huge, it is not realistic to check the output of XAI for all cases. In addition, it is sometimes difficult to interpret the output of XAI. In this study, we propose a machine learning model called objection judgment model that verifies the identification results by using the output of XAI as a feature, and raises objections when there is doubt about the reliability. The results of experiments on malicious website detection and malware detection show that the objection judgment model can efficiently identify misidentified malicious activities.
• 書誌情報: コンピュータセキュリティシンポジウム2021論文集; p. 898-905, 発行日 2021-10-19
• 出版者 / 言語: ja
• 出版者: 情報処理学会