@techreport{oai:ipsj.ixsq.nii.ac.jp:00211058,
 author = {滝澤, 尚輝 and 矢崎, 俊志 and 石畑, 宏明},
 issue = {8},
 month = {May},
 note = {本論文では，並列計算機におけるパイプライン並列深層学習の一実装手法を提案し，その評価・分析を行う．パイプライン並列ではニューラルネットワークモデルを分割し，各プロセスに割り当てる．ハードウェア効率を向上させるため，ミニバッチを分割したマイクロバッチを用いて各プロセスの処理をオーバーラップする．パイプライン並列の利点はマイクロバッチ処理のオーバーラップによる高速化と，メモリ消費の分散である．本研究では，パイプライン並列におけるニューラルネットワークモデルの分割の記述方法を提案する．全結合層 32 層からなるシンプルなネットワークを用いてパイプライン並列の高速化の効果について分析を行う．},
 title = {パイプライン並列分散深層学習の一実装手法の提案},
 year = {2021}
}