WEKO3
アイテム
オラクル分布を用いたサンプリング学習アルゴリズム
https://ipsj.ixsq.nii.ac.jp/records/102643
https://ipsj.ixsq.nii.ac.jp/records/102643da6dadae-2f19-4bca-b13c-e7b8c740787d
| 名前 / ファイル | ライセンス | アクション |
|---|---|---|
IPSJ-CVIM14193024.pdf (689.0 kB)
2100年1月1日からダウンロード可能です。
|
Copyright (c) 2014 by the Institute of Electronics, Information and Communication Engineers This SIG report is only available to those in membership of the SIG.
|
|
| CVIM:会員：¥0, DLIB:会員：¥0 | ||
| Item type | SIG Technical Reports(1) | |||||||
|---|---|---|---|---|---|---|---|---|
| 公開日 | 2014-08-25 | |||||||
| タイトル | ||||||||
| タイトル | オラクル分布を用いたサンプリング学習アルゴリズム | |||||||
| タイトル | ||||||||
| 言語 | en | |||||||
| タイトル | Sampling Learning Algorithm by Oracle Distribution | |||||||
| 言語 | ||||||||
| 言語 | jpn | |||||||
| 資源タイプ | ||||||||
| 資源タイプ識別子 | http://purl.org/coar/resource_type/c_18gh | |||||||
| 資源タイプ | technical report | |||||||
| 著者所属 | ||||||||
| 早稲田大学先進理工学研究科 | ||||||||
| 著者所属 | ||||||||
| 早稲田大学先進理工学研究科 | ||||||||
| 著者所属(英) | ||||||||
| en | ||||||||
| Faculty of Science and Engineering, Waseda University | ||||||||
| 著者所属(英) | ||||||||
| en | ||||||||
| Faculty of Science and Engineering, Waseda University | ||||||||
| 著者名 |
園田, 翔
村田, 昇
× 園田, 翔 村田, 昇
|
|||||||
| 著者名(英) |
Sho, Sonoda
Noboru, Murata
× Sho, Sonoda Noboru, Murata
|
|||||||
| 論文抄録 | ||||||||
| 内容記述タイプ | Other | |||||||
| 内容記述 | 二ューラルネットの新規学習法を提案する．Murata によるニューラルネットの積分表現に基づき，中間層素子パラメータの確率分布 （オラクル分布） を具体的に計算するアルゴリズムを構築する．オラクル分布に従ってサンプルを生成することで，バックプロパゲーションの有力な初期値を与えられる．一般に，オラクル分布からのサンプリングは数値的に不安定だが，近似的に線形時間でサンプリングする方法を開発した．人工データおよび実データに対するベンチマークでは，正規分布を用いて初期化する方法と比較して，高速にバックプロパゲーションが収束することを示した． | |||||||
| 論文抄録(英) | ||||||||
| 内容記述タイプ | Other | |||||||
| 内容記述 | A new sampling learning algorithm for neural networks is proposed. Based on the integral representation of neural networks, a practical algorithm for calculating an oracle probability distribution of hidden parameters is developed. The samples drawn from the oracle distribution would be good initial parameters for backpropagation. In general rigorous sampling from the oracle distribution holds numerical difficulty, a linear-time sampling algorithm is also developed. Numerical experiments showed that when hidden parameters were initialized by the oracle distribution, following backpropagation converged faster to better parameters than when parameters were initialized by a normal distribution. | |||||||
| 書誌レコードID | ||||||||
| 収録物識別子タイプ | NCID | |||||||
| 収録物識別子 | AA11131797 | |||||||
| 書誌情報 |
研究報告コンピュータビジョンとイメージメディア（CVIM） 巻 2014-CVIM-193, 号 24, p. 1-6, 発行日 2014-08-25 |
|||||||
| Notice | ||||||||
| SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc. | ||||||||
| 出版者 | ||||||||
| 言語 | ja | |||||||
| 出版者 | 情報処理学会 | |||||||
