@techreport{oai:ipsj.ixsq.nii.ac.jp:00197909, author = {太刀岡, 勇気}, issue = {56}, month = {Jun}, note = {小規模(生徒)モデル学習時に,高精度(教師)モデルの教師ラベルとして使う知識蒸留処理により,書き起こしを元としたハードラベルに基づく学習よりも性能が向上する.本稿では,これに加えてハードラベルを利用するため,ハードラベルの損失関数と教師ラベルの損失関数を発話ごとに確率的に選択して使う方法(Sequence-level distillation; SD)と,それらを内挿する方法(Sequence-level interpolation; SI)を比較し,SIの方が性能が一貫してよいことを示した.また温度パラメータとともにアニーリングを行うと,さらに性能が向上した.}, title = {音響モデルの知識蒸留の際の正解ラベルの利用法}, year = {2019} }