WEKO3
アイテム
BERTと文章の意味的特徴量を用いた誤差予測モデルによる対話破綻検出
https://ipsj.ixsq.nii.ac.jp/records/204296
https://ipsj.ixsq.nii.ac.jp/records/2042963d50a317-9cb3-4f82-927b-28528de24d75
| 名前 / ファイル | ライセンス | アクション |
|---|---|---|
IPSJ-ICS20199008.pdf (1.9 MB)
|
Copyright (c) 2020 by the Information Processing Society of Japan
|
|
| オープンアクセス | ||
| Item type | SIG Technical Reports(1) | |||||||||
|---|---|---|---|---|---|---|---|---|---|---|
| 公開日 | 2020-03-16 | |||||||||
| タイトル | ||||||||||
| タイトル | BERTと文章の意味的特徴量を用いた誤差予測モデルによる対話破綻検出 | |||||||||
| 言語 | ||||||||||
| 言語 | jpn | |||||||||
| キーワード | ||||||||||
| 主題Scheme | Other | |||||||||
| 主題 | 交渉問題と対話・噂の検出技術 | |||||||||
| 資源タイプ | ||||||||||
| 資源タイプ識別子 | http://purl.org/coar/resource_type/c_18gh | |||||||||
| 資源タイプ | technical report | |||||||||
| 著者所属 | ||||||||||
| 東京農工大学工学部 | ||||||||||
| 著者所属 | ||||||||||
| 東京農工大学大学院工学研究院 | ||||||||||
| 著者所属(英) | ||||||||||
| en | ||||||||||
| Faculty of Engineering, Tokyo University of Agriculture and Technology | ||||||||||
| 著者所属(英) | ||||||||||
| en | ||||||||||
| Institute of Engineering, Tokyo University of Agriculture and Technology | ||||||||||
| 著者名 |
松本, 丈樹
× 松本, 丈樹
× 藤田, 桂英
|
|||||||||
| 論文抄録 | ||||||||||
| 内容記述タイプ | Other | |||||||||
| 内容記述 | 近年，自然言語処理分野の発展とともに，人と機械が対話をするような対話システムが多く開発されている．対話システムの目的は様々であるが，特に会話そのものを目的とした対話システムでは，対話の継続が重要な課題の一つである．しかし，多くの対話システムにおいて，ユーザはスムーズに対話を継続することが困難な状況である，対話破綻に陥る．このような対話破綻を検出するようなタスクにおいて，既存手法である BERT を使った手法は，BERT に他の特徴量として文章の長さやシステムの発話ターン数，文章ベクトル，類似度，発話の種類などを加えることで精度の向上を測ったものである．ベースに BERT を用いたこともあり，比較的高い精度を出すことに成功している．しかし，BERT の fine-tuning やその他の特徴量の抽出方法など，詳細な記載が無いため再現性が低い研究となっている．そこで本研究では，BERT と他の特徴量を用いた対話破綻検出手法について再現性をもって実装し，他の手法との比較，新たな特徴量の調査や評価を行うことを目的とした．提案手法として，fine-tuning 後の BERT 出力の誤差を予測するモデルを実装した．また，新たな特徴量として Juman の形態素解析の際に得られるドメイン情報，意味カテゴリ情報を考慮した．評価実験の結果，誤差を予測するモデルは先行研究と同程度の性能を示すことに成功した．また，ドメイン情報，カテゴリ情報の付与により，BERT の出力が改善することが確認された．特徴量別にみると，文章ベクトルの類似度を付加した場合の精度向上が最も大きいことから，少ない次元数でも適切な特徴量を与えてやれば BERT の誤差予測に効果的に働くことがわかった． | |||||||||
| 書誌レコードID | ||||||||||
| 収録物識別子タイプ | NCID | |||||||||
| 収録物識別子 | AA11135936 | |||||||||
| 書誌情報 |
研究報告知能システム（ICS） 巻 2020-ICS-199, 号 8, p. 1-8, 発行日 2020-03-16 |
|||||||||
| ISSN | ||||||||||
| 収録物識別子タイプ | ISSN | |||||||||
| 収録物識別子 | 2188-885X | |||||||||
| Notice | ||||||||||
| SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc. | ||||||||||
| 出版者 | ||||||||||
| 言語 | ja | |||||||||
| 出版者 | 情報処理学会 | |||||||||
