GPT系言語モデルによる国語研長単位係り受け解析

• Item type: Symposium(1)
• 公開日: 2024-11-30
• タイトル: GPT系言語モデルによる国語研長単位係り受け解析
• タイトル / 言語: en
• タイトル: Dependency-Parsing using Japanese Causal Language Models
• 言語: jpn
• キーワード / 主題Scheme: Other
• キーワード / 主題: 言語処理,品詞付与,依存文法解析,生成言語モデル
• 資源タイプ / 資源タイプ識別子: http://purl.org/coar/resource_type/c_5794
• 資源タイプ: conference paper
• 著者所属: 京都大学
• 著者所属(英): en
• 著者所属(英): Kyoto University
• 著者名: 安岡, 孝一
• 著者名(英): Koichi, Yasuoka
• 論文抄録 / 内容記述タイプ: Other
• 論文抄録 / 内容記述: GPT系言語モデル上の系列ラベリングを用いて，品詞付与・係り受け解析アルゴリズムを開発した．品詞付与においては，系列ラベリングの出力部にBellman-Ford アルゴリズムを適用することで，解析精度を向上させている．係り受け解析においては，右向きリンクは始点から終点への情報の流れに注目し，左向きリンクは逆向き(終点から始点へ) の情報の流れに注目するアルゴリズムを開発した．これらのアルゴリズムを，27 種類のGPT系日本語モデルに適用し，国語研長単位Universal Dependencies による解析精度評価をおこなった．
• 論文抄録(英) / 内容記述タイプ: Other
• 論文抄録(英) / 内容記述: In this paper the author describes how to finetune sequence-labeling for part-of-speech tagging and dependency-parsing, using Japanese causal language models, such as GPT, LLaMA and Qwen. For part-of-speech tagging, we utilize Bellman-Ford algorithm to refine the sequence-labeling. For dependency-parsing, the author has developed an original sequence-labeling algorithm, in which leftward edges are treated reversely. The author investigates efficiency of the algorithms, applying them to twenty-seven Japanese causal language models.
• 書誌情報: じんもんこん2024論文集; 巻 2024, p. 83-90, 発行日 2024-11-30
• 出版者 / 言語: ja
• 出版者: 情報処理学会