Item type |
SIG Technical Reports(1) |
公開日 |
2022-06-20 |
タイトル |
|
|
タイトル |
単純なソフトプラスニューラルネットワークにおけるフィッシャー情報行列の分解条件の緩和 |
タイトル |
|
|
言語 |
en |
|
タイトル |
Relaxing the Requirement for Decomposition of the Fisher Information Matrix for Simple Softplus Neural Networks |
言語 |
|
|
言語 |
jpn |
資源タイプ |
|
|
資源タイプ識別子 |
http://purl.org/coar/resource_type/c_18gh |
|
資源タイプ |
technical report |
著者所属 |
|
|
|
九州大学大学院システム情報科学府 |
著者所属 |
|
|
|
九州大学大学院システム情報科学研究院 |
著者所属(英) |
|
|
|
en |
|
|
Graduate School of Information Science and Electrical Engineering, Kyushu University |
著者所属(英) |
|
|
|
en |
|
|
Faculty of Information Science and Electrical Engineering, Kyushu University |
著者名 |
飯田, 昌澄
武石, 啓成
竹内, 純一
|
著者名(英) |
Masazumi, Iida
Yoshinari, Takeishi
Jun’ichi, Takeuchi
|
論文抄録 |
|
|
内容記述タイプ |
Other |
|
内容記述 |
隠れ層 1 層の単純なニューラルネットワークにおける最終層の重みのフィッシャー情報行列を議論する.武石ら(2021)は活性化関数として Rectified Linear Unit (ReLU) を用いたときの近似的な固有値分解を導出した.一方飯田ら(2022)はソフトプラス関数を用いたときに ReLU の場合と似た形式の分解を示したが,この結果を得るためにソフトプラス関数の急峻さに制限をおいていた.本稿では,ネットワークの入力分布を変更することで,そうした制限をおかなくてもほぼ同等の結果が成り立つことを示す. |
書誌レコードID |
|
|
収録物識別子タイプ |
NCID |
|
収録物識別子 |
AA12055912 |
書誌情報 |
研究報告バイオ情報学(BIO)
巻 2022-BIO-70,
号 7,
p. 1-8,
発行日 2022-06-20
|
ISSN |
|
|
収録物識別子タイプ |
ISSN |
|
収録物識別子 |
2188-8590 |
Notice |
|
|
|
SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc. |
出版者 |
|
|
言語 |
ja |
|
出版者 |
情報処理学会 |