L0ノルム最適化手法に基づく高次元データの判別分析

• Item type: SIG Technical Reports(1)
• 公開日: 2016-06-27
• タイトル: L0ノルム最適化手法に基づく高次元データの判別分析
• タイトル / 言語: en
• タイトル: Classification analysis of high-dimensional data based on L0-norm optimization
• 言語: jpn
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_18gh
• 資源タイプ: technical report
• 著者所属: 電気通信大学大学院情報理工学研究科
• 著者所属: 電気通信大学大学院情報理工学研究科／日本学術振興会特別研究員
• 著者所属: 東京工業大学情報理工学院
• 著者所属: 電気通信大学先端領域教育研究センター
• 著者所属(英): en
• 著者所属(英): The University of Electro-Communications
• 著者所属(英): en
• 著者所属(英): The University of Electro-Communications / Research Fellow for Young Scientists in Japan Society for the Promotion of Science
• 著者所属(英): en
• 著者所属(英): Tokyo Institute of Technology
• 著者所属(英): en
• 著者所属(英): Center for Frontier Science and Engineering, The University of Electro-Communications
• 著者名: 伊藤, 紀基; 佐藤, 匡; 樺島, 祥介; 宮脇, 陽一
• 著者名(英): Noriki, Ito; Masashi, Sato; Yoshiyuki, Kabashima; Yoichi, Miyawaki
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: 計測技術の発達により，比較的容易に高次元データを得ることが可能になってきた．一方で，データが持つ高い次元に対して，データの性質を記述するのに十分なサンプル数が取れないという状況が，実験のコストをはじめとする様々な要因でしばしば生じうる．このような場合においてもデータの性質を信頼度高く記述しモデル化するためには，高次元データの中から真に重要な特徴量のみを抽出する特徴量選択のプロセスが極めて重要になる．高次元データからの適切な特徴量選択手法の実現を目指し，我々は選択する特徴量の個数を陽に制御する L0 ノルム最適化に基づく反復アルゴリズムに着目する．L0 ノルム最適化は，主として圧縮センシングの分野で研究が進んできているが，判別問題へと適用した例はこれまで明示的には提案されていない．そこで本研究では，iterative hard thresholding (IHT) に基づく L0 ノルム最適化手法を判別問題に適用する方法を提案し，その判別精度と特徴量選択の性能を評価した．シミュレーションの結果，提案手法は非スパース判別モデルである support vector machine (SVM) よりも判別精度が高く，スパース判別モデルである sparse logistic regression(SLR) よりも特徴量選択の精度が高い場合があることを確認した．これらの結果は，提案手法が高次元データからの効率的な特徴量抽出に貢献できる可能性があることを示唆している．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: Advances in sensing devices allow us to measure high-dimensional data easily, but the sample size is often limited because of various reasons such as costs and duration to perform experiments. In such circumstances, feature selection plays a vital role to establish reliable models to describe characteristics of the high-dimensional data. For this purpose, we study iterative algorithms for L0-norm optimization that controls a number of features to be selected. The algorithms have been actively developed for compressed sensing, but not for classification problems explicitly. In this paper, we formulated a classification model with L0-norm regularization based on iterative hard thresholding (IHT) algorithm, quantified its performance in terms of accuracy in classification and feature selection, and compared the performance with that of representative models of a non-sparse classifier (support vector machine) and a sparse classifier (sparse logistic regression). Results showed that the IHT-based classifier outperformed the non-sparse classifier in terms of classification accuracy and did a sparse classifier in terms of feature selection accuracy for certain noise conditions. These results suggest that the proposed model serves an effective means to extract important features embedded in the high-dimensional data.
• 書誌レコードID / 収録物識別子タイプ: NCID
• 書誌レコードID / 収録物識別子: AN10505667
• 書誌情報: 研究報告数理モデル化と問題解決（MPS）; 巻 2016-MPS-108, 号 45, p. 1-6, 発行日 2016-06-27
• ISSN / 収録物識別子タイプ: ISSN
• ISSN / 収録物識別子: 2188-8833
• Notice: SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc.
• 出版者 / 言語: ja
• 出版者: 情報処理学会