化学プロセス関連論文からの変数定義抽出に特化した言語モデル

• Item type: SIG Technical Reports(1)
• 公開日: 2024-03-03
• タイトル: 化学プロセス関連論文からの変数定義抽出に特化した言語モデル
• タイトル / 言語: en
• タイトル: Language Model for Variable Definition Extraction from Chemical Process-Related Papers
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: 応用
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_18gh
• 資源タイプ: technical report
• 著者所属: 京都大学大学院 情報学研究科
• 著者所属: 京都大学大学院 情報学研究科
• 著者所属: 京都大学大学院 情報学研究科
• 著者所属(英): en
• 著者所属(英): Graduate School of Informatics, Kyoto University
• 著者所属(英): en
• 著者所属(英): Graduate School of Informatics, Kyoto University
• 著者所属(英): en
• 著者所属(英): Graduate School of Informatics, Kyoto University
• 著者名: 加藤, 祥太; 永山, 航太郎; 加納, 学
• 著者名(英): Shota, Kato; Kotaro, Nagayama; Manabu, Kano
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: 科学技術論文を理解し活用するには，変数定義の抽出が重要である．情報学分野を中心に変数定義抽出に関する研究が行われているが，既存の変数定義抽出手法は分野が変わると期待通りの性能が得られないことがある．本研究では，化学プロセス関連文書から高精度に変数定義を抽出するために，入力文中の定義抽出対象の変数を特殊トークンで示す手法を提案する．提案手法を DeBERTaV3large に適用したところ，既存手法を 4.8 ポイント上回り，正解率 86.9% を達成した．一方，提案手法を BERT モデルに適用したときの性能は既存手法と同程度であり，BERT モデルにおいて変数情報の活用が難しいことが示された．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: Extracting variable definitions from scientific papers is crucial for understanding and leveraging research findings, yet the performance of current extraction methods can vary significantly across disciplines. This study addresses the challenge of variable extraction from documents related to chemical processes. We introduce an approach incorporating special tokens to signal the target variable for variable definition extraction. Our methodology, applied to the DeBERTaV3large model, demon- strated a significant improvement over the current best-performing method, enhancing accuracy by 4.8 points to reach 86.9%. However, when implementing our approach with four BERT models, the results were only on par with the existing method. This discrepancy highlights the limitations of BERT-based models in capturing variable information effectively. Our findings underscore the importance of model selection in the domain-specific application of variable definition extraction.
• 書誌レコードID / 収録物識別子タイプ: NCID
• 書誌レコードID / 収録物識別子: AN10115061
• 書誌情報: 研究報告自然言語処理（NL）; 巻 2024-NL-259, 号 19, p. 1-6, 発行日 2024-03-03
• ISSN / 収録物識別子タイプ: ISSN
• ISSN / 収録物識別子: 2188-8779
• Notice: SIG Technical Reports are nonrefereed and hence may later appear in any journals, conferences, symposia, etc.
• 出版者 / 言語: ja
• 出版者: 情報処理学会