ベイズ統計学に基づくOn-line学習モデルと学習可能性

• Item type: National Convention(1)
• 公開日: 1997-09-24
• タイトル: ベイズ統計学に基づくOn-line学習モデルと学習可能性
• タイトル / 言語: en
• タイトル: Based on Bayes Statistics the On-line Learning Model and its Learnability
• 言語: jpn
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_5794
• 資源タイプ: conference paper
• 著者所属: 早稲田大学理工学部経営システム工学科
• 著者所属: 早稲田大学理工学部経営システム工学科
• 著者所属: 早稲田大学理工学部経営システム工学科
• 著者所属(英): en
• 著者所属(英): Department of Inidustrial and Management Systems Engineering, School of Science and Engineering, WASEDA University
• 著者所属(英): en
• 著者所属(英): Department of Inidustrial and Management Systems Engineering, School of Science and Engineering, WASEDA University
• 著者所属(英): en
• 著者所属(英): Department of Inidustrial and Management Systems Engineering, School of Science and Engineering, WASEDA University
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: 計算論的学習理論のパラダイムの1つであるOn-line 学習モデルでは, 重みを用いた学習アルゴリズムについて多くの研究がなされてきた。WINNOWはその代表的なアルゴリズムの1つであり, プール関数のクラスにおいてリテラルや節などに対応する重みを用いて学習を行なう。一方Wighted Majority Algorithm (WMA)は重みを個々の概念に対応させて学習するアルゴリズムである。これらのアルゴリズムの長所として, 概念クラスから任意の1つの仮説を選択して予測するアルゴリズムよりも優れた性能を持っことが, ヒューリスティックな方法で示されている。この性質はベイズ統計学の枠組を用いることにより, 厳密に証明することができる。D.Hausslerらは計算論的学習理論の立場からベイズ的学習モデルを研究し, ベイズアルゴリズムのsample complexityについての解析を行なっている。また情報理論の考え方を取り入れた解析結果も明らかにしている。このベイズアルゴリズムはベイズ統計学に立脚した最適性を保証するという優れた性能を持っているが, 問題の領域が大きくなると事後確率の更新や平均損失を最小にする決定を探索する計算量が膨大になるという問題点もある。計算量の問題は, もう1つの学習パラダイムであるProbably Approximately Correct (PAC)学習モデルでは, 多くのクラスについての学習可能性が明らかにされているが, On-line学習モデルの予測可能性についての議論は不十分である。またPAC学習モデルにおいても, 従来の学習可能性の議論のみではネガティブな結果しか得られず, 現実問題との乖離が大きい。本稿はこれらの点を考慮し, ベイズアルゴリズムを考える場合にsample complexityだけでなくtime complexityも考えた学習モデルの枠組を提案する。このモデルではベイズ統計学と計算量理論の両方の視点からモデル化を行ない, PAC学習モデルだけでなくOn-line学習モデルについても同様に扱うモデルであることを明らかにする。さらにベイズ予測可能性という新しい概念を提案し, 典型的な概念クラスについて予測可能性を明らかにし, その性質についても述べる。なお, 本文ではブール関数を対象とするが, q元, q>2, の事例空間, 概念表現空間のクラスへの拡張は可能である。
• 書誌レコードID / 収録物識別子タイプ: NCID
• 書誌レコードID / 収録物識別子: AN00349328
• 書誌情報: 全国大会講演論文集; 巻 第55回, 号 人工知能と認知科学, p. 519-520, 発行日 1997-09-24
• 出版者 / 言語: ja
• 出版者: 情報処理学会