WEKO3
アイテム
対照学習を利用した日本語PromptBERTの構築
https://ipsj.ixsq.nii.ac.jp/records/218693
https://ipsj.ixsq.nii.ac.jp/records/2186937138dadb-2cdb-486e-82ad-03e20d38de8a
| 名前 / ファイル | ライセンス | アクション |
|---|---|---|
IPSJ-NL22252003.pdf (826.3 kB)
|
Copyright (c) 2022 by the Information Processing Society of Japan
|
|
| オープンアクセス | ||
| Item type | SIG Technical Reports(1) | |||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 公開日 | 2022-06-22 | |||||||||||
| タイトル | ||||||||||||
| タイトル | 対照学習を利用した日本語PromptBERTの構築 | |||||||||||
| 言語 | ||||||||||||
| 言語 | jpn | |||||||||||
| キーワード | ||||||||||||
| 主題Scheme | Other | |||||||||||
| 主題 | 深層学習の根拠・性能調査 | |||||||||||
| 資源タイプ | ||||||||||||
| 資源タイプ識別子 | http://purl.org/coar/resource_type/c_18gh | |||||||||||
| 資源タイプ | technical report | |||||||||||
| 著者所属 | ||||||||||||
| 茨城大学 | ||||||||||||
| 著者所属 | ||||||||||||
| 東京農工大学 | ||||||||||||
| 著者所属 | ||||||||||||
| 茨城大学 | ||||||||||||
| 著者所属(英) | ||||||||||||
| en | ||||||||||||
| Ibaraki University | ||||||||||||
| 著者所属(英) | ||||||||||||
| en | ||||||||||||
| Tokyo University of Agriculture and Technology | ||||||||||||
| 著者所属(英) | ||||||||||||
| en | ||||||||||||
| Ibaraki University | ||||||||||||
| 著者名 |
芝山, 直希
× 芝山, 直希
× 古宮, 嘉那子
× 新納, 浩幸
|
|||||||||||
| 論文抄録 | ||||||||||||
| 内容記述タイプ | Other | |||||||||||
| 内容記述 | 文の埋め込み表現は自然言語処理の多くのタスクで必要とされ，従来より様々な構築手法が提案されている．その中で，近年，PromptBERT という BERT を用いた文の埋め込み表現の構築手法が提案された．これは簡易な手法であるにも関わらず，高い性能を示すが，言語に応じた適切なテンプレートの設計を必要とする．本論文では日本語 PromptBERT のためのテンプレートをいくつか考案し，それらを組み合わせた対照学習から日本語 PromptBERT を構築した．リクルート社が公開している含意関係推論データセット JRTE を用いた実験では，構築した PromptBERT が SentenceBERT や ConSERT よりも良い性能を示した． | |||||||||||
| 書誌レコードID | ||||||||||||
| 収録物識別子タイプ | NCID | |||||||||||
| 収録物識別子 | AN10115061 | |||||||||||
| 書誌情報 |
研究報告自然言語処理（NL） 巻 2022-NL-252, 号 3, p. 1-6, 発行日 2022-06-22 |
|||||||||||
| ISSN | ||||||||||||
| 収録物識別子タイプ | ISSN | |||||||||||
| 収録物識別子 | 2188-8779 | |||||||||||
| Notice | ||||||||||||
| SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc. | ||||||||||||
| 出版者 | ||||||||||||
| 言語 | ja | |||||||||||
| 出版者 | 情報処理学会 | |||||||||||
