ニューラルネットにおける学習率の新しい更新則 －Delta -Bar- Delta - Bar則－

• Item type: Journal(1)
• 公開日: 1994-06-15
• タイトル: ニューラルネットにおける学習率の新しい更新則 －Delta -Bar- Delta - Bar則－
• タイトル / 言語: en
• タイトル: A New Renewal Rule of Learning Rate in Neural Networks -Delta -Bar- Delta - Bar Rule-
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: 論文
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_6501
• 資源タイプ: journal article
• その他タイトル / その他のタイトル: ニューラルネットワーク
• 著者所属: 豊橋技術科学大学情報工学系
• 著者所属: 豊橋技術科学大学情報工学系
• 著者所属: 豊橋技術科学大学情報工学系
• 著者所属(英): en
• 著者所属(英): Department of Information and Computer Sciences, Toyohashi University of Technology
• 著者所属(英): en
• 著者所属(英): Department of Information and Computer Sciences, Toyohashi University of Technology
• 著者所属(英): en
• 著者所属(英): Department of Information and Computer Sciences, Toyohashi University of Technology
• 著者名: 落合, 慶広; 戸田, 尚宏; 臼井, 支朗
• 著者名(英): Keihiro, Ochiai; Naohiro, Toda; Shiro, Usui
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: ニューラルネット学習の加速化法として知られるJacobs法の収束の遠さは、学習率の更新則：DeIta-Bar-Delta則（DBD 則）に含まれる増減係数に依存しており、これらを適切に調整しなけれぱ十分な加速効果が得られない。しかしながら、この問題の原因等については一切明らかにされていない。本論文では収束が遅くなる原因を考察し、DBD則と慣性項を併用すると、評価関数曲面の谷においてDBD則による学習率の更新が適切に行われず、重みの振動を抑制できなくなることを明らかにする。次に、この問題点を解決した新しい学習率の更新則：Delta-Bar-DeIta-Bar則（DBDB則）を提案する。数値実験より、DBDB則を用いると、学習率の増減率を調整しなくても、最も速く収束する場合と同程度の速さで収束することを示す。
• 書誌レコードID / 収録物識別子タイプ: NCID
• 書誌レコードID / 収録物識別子: AN00116647
• 書誌情報: 情報処理学会論文誌; 巻 35, 号 6, p. 1081-1090, 発行日 1994-06-15
• ISSN / 収録物識別子タイプ: ISSN
• ISSN / 収録物識別子: 1882-7764