WEKO3
アイテム
文生成の長さ制御のための条件付き言語モデルの学習
https://ipsj.ixsq.nii.ac.jp/records/205325
https://ipsj.ixsq.nii.ac.jp/records/2053250d93bcd1-6f39-45e1-baad-613e3ac9789c
| 名前 / ファイル | ライセンス | アクション |
|---|---|---|
IPSJ-Z82-1T-01.pdf (732.8 kB)
|
Copyright (c) 2020 by the Information Processing Society of Japan
|
| Item type | National Convention(1) | |||||||||
|---|---|---|---|---|---|---|---|---|---|---|
| 公開日 | 2020-02-20 | |||||||||
| タイトル | ||||||||||
| タイトル | 文生成の長さ制御のための条件付き言語モデルの学習 | |||||||||
| 言語 | ||||||||||
| 言語 | jpn | |||||||||
| キーワード | ||||||||||
| 主題Scheme | Other | |||||||||
| 主題 | 人工知能と認知科学 | |||||||||
| 資源タイプ | ||||||||||
| 資源タイプ識別子 | http://purl.org/coar/resource_type/c_5794 | |||||||||
| 資源タイプ | conference paper | |||||||||
| 著者所属 | ||||||||||
| 創価大 | ||||||||||
| 著者所属 | ||||||||||
| 創価大 | ||||||||||
| 著者名 |
永塚, 光一
× 永塚, 光一
× 渥美, 雅保
|
|||||||||
| 論文抄録 | ||||||||||
| 内容記述タイプ | Other | |||||||||
| 内容記述 | 現在、GPTやGPT-2を始めとするTransformerを用いた言語モデルは、人間と近いレベルの流暢な文を生成することに成功している。また、CTRLのようなモデルは、文頭に制御コードと呼ばれるトークンを入力させて言語モデルを学習させることで、生成文のスタイルとトピックを制御コードに応じて生成させることを可能にした。しかしながら、これらの学習手法では、生成文を任意の長さに基づいて制御することが出来ない。そこで、本研究では、言語モデルを学習する際に、出力文の長さを分散表現として陽に入力することで、推論時に文の長さを制御することが可能な教師なし文生成手法を提案する。量的及び質的評価を行い、指定した文長に条件付けをして、自然な文が生成可能であることを示す。 | |||||||||
| 書誌レコードID | ||||||||||
| 収録物識別子タイプ | NCID | |||||||||
| 収録物識別子 | AN00349328 | |||||||||
| 書誌情報 |
第82回全国大会講演論文集 巻 2020, 号 1, p. 413-414, 発行日 2020-02-20 |
|||||||||
| 出版者 | ||||||||||
| 言語 | ja | |||||||||
| 出版者 | 情報処理学会 | |||||||||
