2026-03-06T05:24:22Z https://ipsj.ixsq.nii.ac.jp/oai

oai:ipsj.ixsq.nii.ac.jp:00218577 2025-01-19T15:07:16Z 1164:2735:10865:10962

単純なソフトプラスニューラルネットワークにおけるフィッシャー情報行列の分解条件の緩和 Relaxing the Requirement for Decomposition of the Fisher Information Matrix for Simple Softplus Neural Networks 飯田, 昌澄 武石, 啓成 竹内, 純一 Masazumi, Iida Yoshinari, Takeishi Jun’ichi, Takeuchi 隠れ層 1 層の単純なニューラルネットワークにおける最終層の重みのフィッシャー情報行列を議論する．武石ら（2021）は活性化関数として Rectified Linear Unit (ReLU) を用いたときの近似的な固有値分解を導出した．一方飯田ら（2022）はソフトプラス関数を用いたときに ReLU の場合と似た形式の分解を示したが，この結果を得るためにソフトプラス関数の急峻さに制限をおいていた．本稿では，ネットワークの入力分布を変更することで，そうした制限をおかなくてもほぼ同等の結果が成り立つことを示す． technical report 情報処理学会 2022-06-20 application/pdf 研究報告数理モデル化と問題解決（MPS） 7 2022-MPS-138 1 8 2188-8833 AN10505667 https://ipsj.ixsq.nii.ac.jp/record/218577/files/IPSJ-MPS22138007.pdf jpn