Triggered attention型ストリーミング音声認識におけるMask-CTCを用いた事前学習

• Item type: SIG Technical Reports(1)
• 公開日: 2021-10-12
• タイトル: Triggered attention型ストリーミング音声認識におけるMask-CTCを用いた事前学習
• タイトル / 言語: en
• タイトル: An Investigation of Enhancing CTC Model for Triggered Attention-based Streaming ASR
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: H/SP/SLP
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_18gh
• 資源タイプ: technical report
• 著者所属: 早稲田大学基幹理工学部情報通信学科
• 著者所属: 早稲田大学基幹理工学部情報通信学科
• 著者所属: 早稲田大学基幹理工学部情報通信学科
• 著者所属: 早稲田大学基幹理工学部情報通信学科
• 著者所属(英): en
• 著者所属(英): Department of Communications and Computer Engineering, Waseda University
• 著者所属(英): en
• 著者所属(英): Department of Communications and Computer Engineering, Waseda University
• 著者所属(英): en
• 著者所属(英): Department of Communications and Computer Engineering, Waseda University
• 著者所属(英): en
• 著者所属(英): Department of Communications and Computer Engineering, Waseda University
• 著者名: 趙, 懐博; 樋口, 陽祐; 小川, 哲司; 小林, 哲則
• 著者名(英): Huaibo, Zhao; Yosuke, Higuchi; Tetsuji, Ogawa; Tetsunori, Kobayashi
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: Mask-CTC と Triggered attention 機構を組み合わせ，低遅延で高性能なストリーミング End-to-End 音声認識システムの構築を試みた．Triggered attention 機構とは，Connectionist Temporal Classification (CTC) による記号の出力タイミングに基づいて推論を行う手法であり，ストリーミング音声認識における有効性が示されている．しかし，CTC 出力に基づくアライメント推定を高精度に行うためには，多少の遅延を許しても未来の情報を入力して推論を行うことが望ましい．一方で，ストリーミング音声認識では，遅延を低く抑えつつ，高い認識精度を達成することが望ましい．そこで，本研究では，未来の情報を含む長期的な文脈を考慮して特徴表現を学習する枠組みである Mask-CTC をエンコーダの事前学習に導入することで，低遅延かつ高精度なストリーミング音声認識を実現することを目指す．WSJ データを用いたストリーミング音声認識実験により，従来の Triggered attention 型ストリーミング音声認識モデルと比較して，提案モデルは遅延を低く抑えながら高い認識性能を与えることが明らかになった．
• 書誌レコードID / 収録物識別子タイプ: NCID
• 書誌レコードID / 収録物識別子: AN10442647
• 書誌情報: 研究報告音声言語情報処理（SLP）; 巻 2021-SLP-138, p. 1-6, 発行日 2021-10-12
• ISSN / 収録物識別子タイプ: ISSN
• ISSN / 収録物識別子: 2188-8663
• Notice: SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc.
• 出版者 / 言語: ja
• 出版者: 情報処理学会