@article{oai:ipsj.ixsq.nii.ac.jp:00210670,
 author = {岡本, 弘野 and 鈴木, 雅大 and 松尾, 豊 and Hirono, Okamoto and Masahiro, Suzuki and Yutaka, Matsuo},
 issue = {4},
 journal = {情報処理学会論文誌},
 month = {Apr},
 note = {分布外検知はあるデータが入力されたときに，そのデータが特定の分布からのデータ（分布内データ）かそれ以外の分布からのデータ（分布外データ）かに分類するタスクである．分布外検知の問題設定は2種類あり，訓練データとして分布内データしか用いることができない教師なし分布外検知と，一部の分布外データを訓練データとして利用できる半教師あり分布外検知が存在する．近年提案された最も検知精度が高い半教師あり分布外検知の手法は，深層ニューラルネットワーク（DNN）を用いて分布内データのクラス分類を行い，分布外データを入力としたときにはDNNの出力が一様分布になるように学習を行う．モデルの学習後，DNNの最終層の出力が一様分布に近いものを分布外データであるとして検出を行う．しかし，DNNの出力が一様分布に近いものになる分布内データが存在するため，この手法にはこのようなデータと分布外データの区別がつかなくなってしまう問題がある．筆者らはこの問題がDNNの最終層の出力だけを用いて分布外検知を行うことを困難にする点に着目する．この問題を解決するために，筆者らはDNNの複数の中間層の出力を特徴量として利用し，これらを同時に入力とするためのDNNを新たに用意し，分布内外のデータを分類するように学習することを提案する．この提案は，分布外データは分布内データと異なりクラス分類のための特徴が抽出されないため，中間層での挙動が異なり分布内外のデータを分類するのに役立つという仮説に基づく．実験では，少量（16枚）の訓練用分布外データの利用したとき，提案手法は先行研究と比較してAUROCで約0.2の改善がみられた．, In this paper, we study a method for semi-supervised out-of-distribution (OOD) detection. Recently, a semi-supervised OOD detection method with the highest detection accuracy has been proposed, which uses deep neural networks (DNNs) to classify the data, and then trains the DNNs so that the output of the DNNs is uniformly distributed when OOD data is input. After training the model, the output of the last layer of DNN is detected as OOD data if it is close to a uniform distribution. However, there are some in-distribution data that make the output of the DNN close to a uniform distribution, so this method has the problem of not being able to distinguish between such data and OOD data. We point out that it is not sufficient to use only the output of the last layer of DNN as a feature to perform OOD detection. To solve this problem, we propose to train a new DNN to classify in-distribution and OOD data by using the outputs of several intermediate layers of the DNN as the features. This proposal is based on the hypothesis that when OOD data is input, unlike in-distribution data, the features for classifying are not extracted by DNNs, and thus the behavior at the intermediate layer is different, which helps to classify in-distribution and OOD data. In experiment, the proposed method showed an improvement of about 0.2 in AUROC compared to previous studies when using a small amount of OOD (16) for training.},
 pages = {1142--1151},
 title = {深層ニューラルネットワークの中間層出力を利用した半教師あり分布外検知},
 volume = {62},
 year = {2021}
}