日本語SentenceBERTの構築とその評価

• Item type: SIG Technical Reports(1)
• 公開日: 2021-07-20
• タイトル: 日本語SentenceBERTの構築とその評価
• タイトル / 言語: en
• タイトル: Construction and Evaluation of Japanese Sentence-BERT Models
• 言語: jpn
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_18gh
• 資源タイプ: technical report
• 著者所属: 茨城大学大学院理工学研究科情報工学専攻
• 著者所属: 茨城大学大学院理工学研究科情報科学領域
• 著者所属(英): en
• 著者所属(英): Major in Computer and Information Sciences, Graduate School of Science and Engineering, Ibaraki University
• 著者所属(英): en
• 著者所属(英): Graduate School of Science and Engineering, Department of Computer and Information Sciences, Ibaraki University
• 著者名: 芝山, 直希; 新納, 浩幸
• 著者名(英): Naoki, Shibayama; Hiroyuki, Shinnou
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: SentenceBERT は文の埋め込み表現の構築に特化した BERT である．BERT のように意味の解析能力を有している一方，BERT とは異なりオンラインで実行する必要がないため，類似文検索などでの有用性が高い．しかし，現在，適切な形で公開されてる日本語 SentenceBERT モデルは存在しない．そこでここでは京都大学で公開されている日本語版 SNLI（JSNLI）と公開されている日本語 BERT モデル 6 つを用いて 6 つの日本語 SentenceBERT を構築した．また SentenceBERT モデルの評価方法として，クラス内分散とクラス間分散の比を測る方法，及び k-NN 法による単純な分類器での文の分類問題に対する精度を用いる方法を提案し，作成した 6 つの日本語 SentenceBERT を評価した．結果，東北大版 BERT と NICT 版 BERT から構築した SentenceBERT が同程度の高い性能を示した．
• 書誌レコードID / 収録物識別子タイプ: NCID
• 書誌レコードID / 収録物識別子: AN10115061
• 書誌情報: 研究報告自然言語処理（NL）; 巻 2021-NL-249, 号 7, p. 1-7, 発行日 2021-07-20
• ISSN / 収録物識別子タイプ: ISSN
• ISSN / 収録物識別子: 2188-8779
• Notice: SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc.
• 出版者 / 言語: ja
• 出版者: 情報処理学会