@techreport{oai:ipsj.ixsq.nii.ac.jp:00190642,
 author = {八島, 慶汰 and 大山, 洋介 and 松岡, 聡},
 issue = {1},
 month = {Jul},
 note = {近年，機械学習，深層学習と呼ばれる手法が盛んに研究されており，画像認識 ・ 音声認識 ・ 自然言語処理等の広くの分野で他の手法に比べ非常に優れた結果や精度を達成している．特に，ニューラルネットの並列学習の手法であるデータ並列の学習下では，各 GPU が分割されたデータセットを入力としてそれぞれ独立に計算を行い，パラメーターサーバーや All Reduce 等の計算を使用しモデルの更新を行っている．また，ニューラルネットの学習では勾配消失問題や出力の分布を一定に操作するために多くの正則化手法が提案されている．特にその効果が大きいと期待されている Batch Normalization (Batch Norm) が多く用いられており，既存の Batch Norm では GPU 毎に独立して正則化が行われている．本論文では GPU デバイスで独立に正規化が行われた場合と GPU デバイス間においてまたがるように正規化が行われた場合で精度や計算時間等にどのような影響を与えるのかどうかを実験した．},
 title = {深層学習におけるBatchNormalization使用時の計算時間と精度の関係性},
 year = {2018}
}