深層学習によるSaliency Mapに対する選択的推論

• Item type: SIG Technical Reports(1)
• 公開日: 2023-06-22
• タイトル: 深層学習によるSaliency Mapに対する選択的推論
• タイトル / 言語: en
• タイトル: Selective inference for DNN-driven saliency map
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: IBISML
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_18gh
• 資源タイプ: technical report
• 著者所属: 名古屋工業大学
• 著者所属: 理化学研究所
• 著者所属: 名古屋大学
• 著者所属: 理化学研究所／名古屋大学理化学研究所
• 著者所属(英): en
• 著者所属(英): Nagoya Institute of Thechnology
• 著者所属(英): en
• 著者所属(英): RIKEN
• 著者所属(英): en
• 著者所属(英): Nagoya University
• 著者所属(英): en
• 著者所属(英): RIKEN / Nagoya University
• 著者名: 三輪, 大貴; VoNguyen, Le Duy; 白石, 智洸; 竹内, 一郎
• 著者名(英): Daiki, Miwa; Vo, Nguyen Le Duy; Tomohiro, Shiraishi; Ichiro, Takeuchi
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: 近年，幅広い分野において，DNN モデルを使用した画像分類が行われているが，その予測はブラックボックス的である．そのため，予測根拠を可視化する手法（Saliency Map）が提案されているが，その結果の信頼性については多くの問題が指摘されている．そこで，統計的仮説検定の枠組みによって，Saliency Map の信頼性の評価することを考える．しかし，従来の統計的仮説検定では DNN による選択バイアスの影響により，妥当な検定を行うことはできない．本研究では，近年盛んに研究が行われている選択的推論を導入し，Type I Error Rate を制御できる妥当な検定を提案する．また，Saliency Map の 1 つである Grad-cam に対して，本手法を適用した結果について報告する．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: The usefulness of image classification using DNN models has been confirmed in various fields, but the prediction mechanism of these models cannot be fully understood. Therefore, a type of methods called Saliency Map has been proposed to visualize the explanation of predictions, but issues regarding the reliability of the results have been pointed out. In this study, we consider evaluating the reliability of Saliency Map using the framework of statistical hypothesis testing. Unfortunately, conventional statistical hypothesis testing cannot perform valid tests due to the selection bias caused by DNNs. Therefore, we introduce the concept of selective inference, which has been actively studied in recent years, and propose a valid testing method that can properly control Type I Error Rate. In this paper, we specifically report the results when the proposed method is applied to saliency maps obtained by Grad-cam, one of the most frequently used Saliency Map techniques.
• 書誌レコードID / 収録物識別子タイプ: NCID
• 書誌レコードID / 収録物識別子: AN10505667
• 書誌情報: 研究報告数理モデル化と問題解決（MPS）; 巻 2023-MPS-143, 号 50, p. 1-5, 発行日 2023-06-22
• ISSN / 収録物識別子タイプ: ISSN
• ISSN / 収録物識別子: 2188-8833
• Notice: SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc.
• 出版者 / 言語: ja
• 出版者: 情報処理学会