混合型分布族のMDL学習に関する考察

• Item type: SIG Technical Reports(1)
• 公開日: 2018-09-13
• タイトル: 混合型分布族のMDL学習に関する考察
• タイトル / 言語: en
• タイトル: A Study on MDL Learning of Mixture Families
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: ディスカッションセッション3
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_18gh
• 資源タイプ: technical report
• 著者所属: 九州大学大学院システム情報科学府
• 著者所属: 九州大学大学院システム情報科学研究院
• 著者所属(英): en
• 著者所属(英): Graduate School of Information Science and Electrical Engineering, Kyushu University
• 著者所属(英): en
• 著者所属(英): Faculty of Information Science and Electrical Engineering, Kyushu University
• 著者名: 宮本, 耕平; 竹内, 純一
• 著者名(英): Kohei, Miyamoto; Jun'ichi, Takeuchi
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: 記述長最小原理 (MDL 原理) に基づいたパラメータ推定の方法として，二段階符号によって定義される MDL 推定量がある．MDL 推定量の性能に関して，Barron and Cover による符号の冗長度によってリスク上界を与える理論が知られている．冗長度の評価について，モデルが指数型分布族の場合には既に，最適なユニバーサル符号のリグレットであるミニマックスリグレットに近い値を達成する二段階符号が知られているが，指数型分布族以外のモデルに関しては未解決である．本稿では非指数型分布族として混合型分布族を対象とし，Bayes 符号によりミニマックスリグレットを達成するために用いられた局所指数族バンドルに基づく手法を二段階符号の冗長度評価に応用した．結果として，混合成分数が 2 つの混合型分布族の MDL 推定量について，指数型分布族の場合と同等なリスク上界を得た．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: MDL estimators based on two stage codes are studied. The Barren and Cover's theory shows that redundancy of a two stage code bounds the risk of the MDL estimator defined by the two stage code. It is known that coding regret of two stage codes for exponential families can be close to the minimax regret, which is related to stochastic complexity, while it is not for non-exponential families. I this paper, we propose a new method of two stage codes for two components mixture families, whose regret can be close to the minimax regret. The method is based on local exponential family bundles, which are used to evaluate the minimax regret for non-exponential families. Further, we obtain a tight risk bound of MDL estimators for mixture families.
• 書誌レコードID / 収録物識別子タイプ: NCID
• 書誌レコードID / 収録物識別子: AA11131797
• 書誌情報: 研究報告コンピュータビジョンとイメージメディア（CVIM）; 巻 2018-CVIM-213, 号 17, p. 1-8, 発行日 2018-09-13
• ISSN / 収録物識別子タイプ: ISSN
• ISSN / 収録物識別子: 2188-8701
• Notice: SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc.
• 出版者 / 言語: ja
• 出版者: 情報処理学会