WEKO3
アイテム
ニューラル言語モデルの研究動向
https://ipsj.ixsq.nii.ac.jp/records/197567
https://ipsj.ixsq.nii.ac.jp/records/197567c7821eff-860d-4de5-938c-0491124a085f
| 名前 / ファイル | ライセンス | アクション |
|---|---|---|
|
|
Copyright (c) 2019 by the Information Processing Society of Japan
|
|
| オープンアクセス | ||
| Item type | SIG Technical Reports(1) | |||||||
|---|---|---|---|---|---|---|---|---|
| 公開日 | 2019-06-06 | |||||||
| タイトル | ||||||||
| タイトル | ニューラル言語モデルの研究動向 | |||||||
| 言語 | ||||||||
| 言語 | jpn | |||||||
| キーワード | ||||||||
| 主題Scheme | Other | |||||||
| 主題 | 招待講演 | |||||||
| 資源タイプ | ||||||||
| 資源タイプ識別子 | http://purl.org/coar/resource_type/c_18gh | |||||||
| 資源タイプ | technical report | |||||||
| 著者所属 | ||||||||
| 東京工業大学 | ||||||||
| 著者名 |
高瀬, 翔
× 高瀬, 翔
|
|||||||
| 論文抄録 | ||||||||
| 内容記述タイプ | Other | |||||||
| 内容記述 | 言語モデルは与えられた系列の尤もらしさを計算するモデルであり,機械翻訳や音声認識など,応用範囲は多岐にわたる.とりわけ,近年のニューラル言語モデルの発展は目覚ましく,ベンチマークとして用いられることの多い Penn Treebank コーパスにおいて,劇的な性能向上が報告されている.本講演では,これら最新のニューラル言語モデルの研究動向を概観する.特に,トップスコアを達成したと謳う研究では,どの要因が性能向上に寄与したか判然としないものもあるため,力の及ぶ限りで整理を行いたい.さらに,ニューラル言語モデルの発展として,ELMo や BERT のような埋込表現にもふれた上で,今後の方向性について議論を行う. | |||||||
| 書誌レコードID | ||||||||
| 収録物識別子タイプ | NCID | |||||||
| 収録物識別子 | AN10115061 | |||||||
| 書誌情報 |
研究報告自然言語処理(NL) 巻 2019-NL-240, 号 4, p. 1-1, 発行日 2019-06-06 |
|||||||
| ISSN | ||||||||
| 収録物識別子タイプ | ISSN | |||||||
| 収録物識別子 | 2188-8779 | |||||||
| Notice | ||||||||
| SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc. | ||||||||
| 出版者 | ||||||||
| 言語 | ja | |||||||
| 出版者 | 情報処理学会 | |||||||