テキストのみを用いたドメイン適応のためのIntermediate-CTCコンフォーマーモデルに関する検討

• Item type: SIG Technical Reports(1)
• 公開日: 2021-11-24
• タイトル: テキストのみを用いたドメイン適応のためのIntermediate-CTCコンフォーマーモデルに関する検討
• タイトル / 言語: en
• タイトル: Text-only domain adaptation of intermediate CTC-based conformer networks
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: データ拡張・ラベリング
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_18gh
• 資源タイプ: technical report
• 著者所属: 日本放送協会
• 著者所属: 日本放送協会
• 著者所属: 日本放送協会
• 著者所属: 日本放送協会
• 著者所属: 日本放送協会
• 著者所属: 日本放送協会
• 著者所属: 早稲田大学
• 著者所属(英): en
• 著者所属(英): NHK Science & Technology Research Laboratories
• 著者所属(英): en
• 著者所属(英): NHK Science & Technology Research Laboratories
• 著者所属(英): en
• 著者所属(英): NHK Science & Technology Research Laboratories
• 著者所属(英): en
• 著者所属(英): NHK Science & Technology Research Laboratories
• 著者所属(英): en
• 著者所属(英): NHK Science & Technology Research Laboratories
• 著者所属(英): en
• 著者所属(英): NHK Science & Technology Research Laboratories
• 著者所属(英): en
• 著者所属(英): Waseda University
• 著者名: 佐藤, 裕明; 小森, 智康; 三島, 剛; 河合, 吉彦; 望月, 貴裕; 佐藤, 庄衛; 小川, 哲司
• 著者名(英): Hiroaki, Sato; Tomoyasu, Komori; Takeshi, Mishima; Yoshihiko, Kawai; Takahiro, Mochizuki; Shoei, Sato; Tetsuji, Ogawa
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: 本研究では，Connectionist Temporal Classification（CTC）音声認識モデルにおいて，テキストデータのみで音声認識モデルを学習し，推論対象の話題のドメインに適応する手法を提案する．音声認識モデルは，学習した発音と記号列の対応に従って認識結果を出力するため，学習データの話題と異なる話題の音声を認識させると，話題に適さない記号列を出力し，認識誤りを引き起こす．推論する話題の音声-テキスト対のデータが入手できれば，音声認識モデルを事前に学習し，出力記号列を話題のドメインに適応させることが可能だが，推論する話題の音声が入手できるとは限らず，入手が可能でも音声に対するアノテーション作業はコストがかかる．そこで，テキストデータを疑似的に CTC 記号列に変換し，音声認識モデルが出力する潜在ベクトルにマッピングすることで，音声認識モデルをテキストデータで学習できる技術を開発した．日本語話し言葉コーパス（CSJ）において学習させた CTC 音声認識モデルを天気予報のテキストデータを用いて学習し，天気予報の話題のドメインに適応することで，天気予報の評価音声に対して文字誤り率（CER）が 18.7％ から 13.7％ に改善した．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: We present a text only domain adaptation method for connectionist temporal classification (CTC) speech recognition model. Automatic speech recognition (ASR) model outputs recognition results according to the correspondence between the learned pronunciation and the symbol sequence. When ASR model recognizes speech on a topic different from the topic of the training data, it outputs a symbol sequence unsuitable for the topic, causing recognition errors. If the speech and text pair data of the topic to be inferred are available, it is possible to train the ASR model in advance and adapt the output symbol sequence to the domain of the topic, but the speech of the topic to be inferred is not always available, and even if it is available, annotating the speech is costly. Therefore, we have developed a technique that can train a speech recognition model on text data by pseudo-transforming the text data into CTC symbol sequences and mapping them to latent vectors output by ASR model. After training the CTC speech recognition model with Corpus of Spontaneous Japanese (CSJ), we trained it with text data from a weather forecast and adapted it to the topic domain of the weather forecast, which improved the character error rate (CER) from 18.7% to 13.7% for the evaluation speech of the weather forecast.
• 書誌レコードID / 収録物識別子タイプ: NCID
• 書誌レコードID / 収録物識別子: AN10115061
• 書誌情報: 研究報告自然言語処理（NL）; 巻 2021-NL-251, 号 29, p. 1-6, 発行日 2021-11-24
• ISSN / 収録物識別子タイプ: ISSN
• ISSN / 収録物識別子: 2188-8779
• Notice: SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc.
• 出版者 / 言語: ja
• 出版者: 情報処理学会