@inproceedings{oai:ipsj.ixsq.nii.ac.jp:00196749, author = {大沢, 和樹 and 横田, 理央 and Chuan-Sheng, Foo and Vijay, Chandrasekhar}, book = {第81回全国大会講演論文集}, issue = {1}, month = {Feb}, note = {画像データセットImageNetを始めとする巨大データセットを用いる大規模深層学習においては,膨大な学習時間が最適なパラメータ探索の障害となっている.学習時間の短縮を目的とした既存研究では,コスト関数の最小化に単純な一次最適化手法が用いられ,計算機の性能に頼った高速化手法が提案されてきた.一方で,自然勾配法は深層学習における効率的な二次最適化手法として知られているが,パラメータ数に依存するFisher情報行列の計算がボトルネックとなり,応用は限られていた.本研究では,これまで明らかにされてこなかった大規模深層学習におけるFisher情報行列の解析に基づき,より効率的な二次最適化手法を提案する.}, pages = {45--46}, publisher = {情報処理学会}, title = {Fisher情報行列の解析に基づく大規模深層学習のための二次最適化手法}, volume = {2019}, year = {2019} }