深層ニューラルネットワークによるクラスと幾何変換の同時分類確率を利用した分布外検知

• Item type: Journal(1)
• 公開日: 2021-07-15
• タイトル: 深層ニューラルネットワークによるクラスと幾何変換の同時分類確率を利用した分布外検知
• タイトル / 言語: en
• タイトル: Out-of-distribution Detection Using Joint Probability between Class and Geometric Transformation
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: [一般論文] 分布外検知，深層ニューラルネットワーク，自己教師あり学習，多クラス分類
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_6501
• 資源タイプ: journal article
• ID登録: 10.20729/00211955
• ID登録 / ID登録タイプ: JaLC
• 著者所属: 東京大学工学系研究科技術経営戦略学専攻松尾研究室
• 著者所属: 東京大学工学系研究科技術経営戦略学専攻松尾研究室
• 著者所属: 東京大学工学系研究科技術経営戦略学専攻松尾研究室
• 著者所属(英): en
• 著者所属(英): Department of Technology Management for Innovation, Graduate School of Engineering, The University of Tokyo
• 著者所属(英): en
• 著者所属(英): Department of Technology Management for Innovation, Graduate School of Engineering, The University of Tokyo
• 著者所属(英): en
• 著者所属(英): Department of Technology Management for Innovation, Graduate School of Engineering, The University of Tokyo
• 著者名: 岡本, 弘野; 鈴木, 雅大; 松尾, 豊
• 著者名(英): Hirono, Okamoto; Masahiro, Suzuki; Yutaka, Matsuo
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: 分布外検知はあるデータが入力されたときに，そのデータが特定の分布からのデータ（分布内データ）かそれ以外の分布からのデータ（分布外データ）かに分類するタスクである．近年の研究により，深層ニューラルネットワークを使った分類器は，分布外データを入力としたとき，分布内データを入力とする場合と比較して，(1)クラス分類の出力が一様分布に近づき，(2)幾何変換を予測することが難しいという2つの仮説のもとで，分布外検知が行えることが明らかになっている．しかし，(1)において，クラス分類するのが難しいデータセットを用いる場合，分布内データにも分類器の出力が一様分布になるようなものが存在する．また，(2)において，near-distribution outliersと呼ばれる分布外データを使った場合，幾何変換が予測できてしまう場合がある．このとき，(1)または(2)の仮説をもとにした先行研究は，分布外データと分布内データの見分けがつかなくなってしまう問題が発生する．筆者らは，それぞれの先行研究において分布外データの検知精度が低くなる条件が異なるので，両者の手法を組み合わせることで，両者の欠点を補えると仮定した．この仮定に基づき，筆者らは(1)と(2)の仮説を同時に活用する指標を用いることを提案する．具体的には，筆者らは入力が与えられたときのクラスと幾何変換の同時確率を求め，これをもとにした新しいスコアを提案する．実験では，様々なネットワーク構造とデータセットを使って実験を行い，(1)と(2)のそれぞれの仮説に基づく先行研究よりも，両方の仮説に基づく本手法のほうが，AUROCを指標として平均6.7%，分布外データの検知精度が高くなることを示す．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: Out-of-distribution detection is a task to categorize the input data into data from a specific distribution (in-distribution data) or data from another distribution (out-of-distribution data). Recent studies have shown that a classifier using deep neural networks can detect out-of-distribution data under the following two hypotheses: (1) the output of the classifier approaches a uniform distribution, and (2) it is difficult to predict geometric transformations, when the inputs are out-of-distribution data. However, in (1), when using datasets that are difficult to classify, there are some in-distribution data that result in a uniform distribution of the classifier's output. In (2), the use of near-distribution outliers, which are out-of-distribution data, can lead to the correct prediction of geometric transformations. In this case, previous studies based on hypotheses (1) or (2) cause problems in distinguishing between out-of-distribution and in-distribution data. We hypothesized that the combination of the two methods could compensate for the low detection accuracy of out-of-distribution data in each previous study. Therefore, we propose to use a metric that utilizes both hypotheses (1) and (2) simultaneously. Specifically, we calculate the joint probability of class and geometric transformations given the input and propose a new anomaly score based on it. We conduct experiments using various network structures and datasets and show that the method based on both hypotheses is more accurate in detecting out-of-distribution data than the method based on either (1) or (2) by 6.7% on average.
• 書誌レコードID / 収録物識別子タイプ: NCID
• 書誌レコードID / 収録物識別子: AN00116647
• 書誌情報: 情報処理学会論文誌; 巻 62, 号 7, p. 1382-1392, 発行日 2021-07-15
• ISSN / 収録物識別子タイプ: ISSN
• ISSN / 収録物識別子: 1882-7764