End-to-End音声認識のための粒度の異なるサブワード単位に基づく階層的な条件づけ

• Item type: SIG Technical Reports(1)
• 公開日: 2021-11-24
• タイトル: End-to-End音声認識のための粒度の異なるサブワード単位に基づく階層的な条件づけ
• タイトル / 言語: en
• タイトル: End-to-End Speech Recognition with Multi-Granular Subword Units and Hierarchical Conditioning Mechanism
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: 深層学習モデル
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_18gh
• 資源タイプ: technical report
• 著者所属: 早稲田大学
• 著者所属: 早稲田大学
• 著者所属: 早稲田大学
• 著者所属: 早稲田大学
• 著者所属(英): en
• 著者所属(英): Waseda University
• 著者所属(英): en
• 著者所属(英): Waseda University
• 著者所属(英): en
• 著者所属(英): Waseda University
• 著者所属(英): en
• 著者所属(英): Waseda University
• 著者名: 樋口, 陽祐; 軽部, 敬太; 小川, 哲司; 小林, 哲則
• 著者名(英): Yosuke, Higuchi; Keita, Karube; Tetsuji, Ogawa; Tetsunori, Kobayashi
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: End-to-End 音声認識では，単語を推定するのに適した特徴表現が暗黙的に獲得されることを期待している．しかし，入力の音声信号と出力の単語列では，情報の抽象度が大きく異なるため，目的の特徴表現を End-to-End に学習するのは困難である．本研究では，End-to-End 音声認識において，単語単位の特徴表現を効果的に学習するために，Connectionist Temporal Classification (CTC) に基づいた階層的条件付きモデルを提案する．提案モデルでは，最終層に加えて，複数の中間層に対して CTC 損失を適用し，各 CTC における出力単位の粒度を最終層に向けて段階的に高くする．このとき，粒度の低い単位による予測によって粒度の高い単位による予測を条件付けることで，単語単位の系列に対する生成過程を明示的に学習する．言語情報の抽象度が段階的に組み上がるモデルを構築することで，単語単位の特徴表現が効果的に学習されることを期待する．LibriSpeech-{100h, 960h} と TEDLIUM2 を用いた実験において提案モデルを評価したところ，既存モデルよりも高い認識性能を与えることが明らかとなった．また，詳細な分析の結果，提案モデルによって単語単位の認識に適した特徴表現が学習できることを確認した．
• 書誌レコードID / 収録物識別子タイプ: NCID
• 書誌レコードID / 収録物識別子: AN10115061
• 書誌情報: 研究報告自然言語処理（NL）; 巻 2021-NL-251, 号 19, p. 1-8, 発行日 2021-11-24
• ISSN / 収録物識別子タイプ: ISSN
• ISSN / 収録物識別子: 2188-8779
• Notice: SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc.
• 出版者 / 言語: ja
• 出版者: 情報処理学会